折腾:
【未解决】如何破解大众点评网页爬取时的反扒验证verify.meituan.com
期间,去寻找合适的IP代理池。
IP代理池
好像开源的IP代理可以用?
还要docker才行
也是docker部署的

其中的:
动态版 每个请求一个随机IP
好像就比较适合
squid
Squid (软件) – 维基百科,自由的百科全书
听别人建议直接买收费的。
免费的一般不太稳定。
IP代理池 哪家好
现在可以考虑去试试
蜻蜓代理
不过对于:
每次提取IP数:10
最小提取间隔:10秒
-》不利于我PySpider中直接调用代理
后记:清楚了,这个
每次提取IP数:10
是属于api调用,不是我要的方式
我应该换用http隧道代理
结论:

需要调用频率:无限制的
去看看多贝云
还有demo代码:
可以考虑试试这个

带宽或者每秒请求数能够在默认套餐基础上额外增加吗?
可以,需要支付升级费用,具体费用参考商务报价单。

高质量IP
全部IP均为高匿,保证私密性,并且全部是家庭用IP,真人率更高
看起来不错。
且页面和产品介绍清晰。
目前决定用:多贝云 IP代理池
买之前,先再去看看:
关于如何使用,找到文档了:
-》
-》文档解释的,和多贝云的解释是类似的,但是没有多贝云专业,且多贝云有示例代码
结论:
总体上,还是多贝云:
产品介绍的很清晰,包括价格和配置,尤其是文档解释和常见问题解答方面,
让新手很容易懂。
所以还是用多贝云吧。
后记:
阿布云的文档也解释的不错,比如也有示例代码:
-》
期间去:
【已解决】搞懂IP代理池相关概念和逻辑
然后才是去:
【已解决】购买多贝云IP代理池
然后再去测试代理是否生效:
【已解决】用Python代码测试多贝云代理IP是否生效
接着去:
【已解决】PySpider中使用多贝云IP代理池实现每次请求IP都不同
【总结】
此处是找了IP代理提供商:
多贝云
购买地址:
此处(先搞错了购买了套餐2,后换)购买了套餐3,实现了:每次请求,IP都不同的效果。
转载请注明:在路上 » 【已解决】找个好用的IP代理池实现防止大众点评网站的反扒