ProxyPool 爬虫代理IP池安装与使用（附官方文档）

  安装：

GitHub上关于ProxyPool的安装【胎教级教学】_FLIF的博客-CSDN博客_proxypool安装第一步：ProxyPool的下载与配置第二步：Redis的下载与配置第三步：验证是否可用https://blog.csdn.net/weixin_48584917/article/details/121710521?csdn_share_tail=%7B%22type%22%3A%22blog%22%2C%22rType%22%3A%22article%22%2C%22rId%22%3A%22121710521%22%2C%22source%22%3A%22weixin_47251596%22%7D&ctrtid=75Gby

这个博主写的非常细节，可以直接参考。

使用： 基本用法：

接上文，介绍一下proxy_pool的基本用法

import requests


# 随机获取一个ip
def get_proxy():
    return requests.get("http://127.0.0.1:5010/get/").json()


# 删除一个ip
def delete_proxy(proxy):
    requests.get("http://127.0.0.1:5010/delete/?proxy={}".format(proxy))


def getHtml():
    retry_count = 5
    # 获得一个随机ip
    proxy = get_proxy().get("proxy")
    while retry_count > 0:
        try:
            # 尝试用获得的ip去访问测试网址
            html = requests.get('http://www.example.com', proxies={"http": "http://{}".format(proxy)})
            return html
        # 如果报错，则尝试次数-1，五次后停止访问
        except Exception:
            retry_count -= 1
    # 用完一次就删除代理池中这条代理ip
    delete_proxy(proxy)
    return None


getHtml()

常用API：

api	method	Description	params
/	GET	api介绍	None
/get	GET	随机获取一个代理	可选参数: ?type=https 过滤支持https的代理
/pop	GET	获取并删除一个代理	可选参数: ?type=https 过滤支持https的代理
/all	GET	获取所有代理	可选参数: ?type=https 过滤支持https的代理
/count	GET	查看代理数量	None
/delete	GET	删除代理	?proxy=host:ip

扩展代理：

项目默认包含几个免费的代理获取源，但是免费的毕竟质量有限，所以如果直接运行可能拿到的代理质量不理想。所以，提供了代理获取的扩展方法。

　　添加一个新的代理源方法如下:

• 1、首先在ProxyFetcher类中添加自定义的获取代理的静态方法， 该方法需要以生成器(yield)形式返回host:ip格式的代理，例如:

class ProxyFetcher(object):
    # ....

    # 自定义代理源获取方法
    @staticmethod
    def freeProxyCustom1():  # 命名不和已有重复即可

        # 通过某网站或者某接口或某数据库获取代理
        # 假设你已经拿到了一个代理列表
        proxies = ["x.x.x.x:3128", "x.x.x.x:80"]
        for proxy in proxies:
            yield proxy
        # 确保每个proxy都是 host:ip正确的格式返回

 

• 2、添加好方法后，修改setting.py文件中的PROXY_FETCHER项：

　　在PROXY_FETCHER下添加自定义方法的名字:

PROXY_FETCHER = [
    "freeProxy01",    
    "freeProxy02",
    # ....
    "freeProxyCustom1"  #  # 确保名字和你添加方法名字一致
]

         schedule 进程会每隔一段时间抓取一次代理，下次抓取时会自动识别调用你定义的方法。

 

官方文档：ProxyPool — ProxyPool 2.1.0 文档