pyspider 如何添加所有项目的全局代理
现在我们pyspider的所有项目都需要代理,然后如果每个项目都通过添加crawl_config的方法的话很麻烦,想要添加一个所有项目的proxy.
在libs/base_handler.py如下代码添加proxy,尝试没有生效,有谁知道该怎么添加全局的proxy吗?
如果你对这篇内容有疑问，欢迎到本站社区发帖提问 参与讨论，获取更多帮助，或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱，如果其他用户或者作者回复了您的评论，将不能在第一时间通知您！
发布评论
评论（3）
系统级的设置尝试没成功.我直接修改了fetch的代码.测试可以了
修改了pyspider-master/pyspider/fetcher/tornado_fetcher.py
下的proxy_string的赋值.
设置环境变量HTTP_PROXY和HTTPS_PROXY。
一般在
.bashrc或者.profile或者.zshrc中设置。pyspider fetcher --proxy=host:port