pyspider 是否支持mongodb集群作为taskdb
问题描述
抓取类似知乎的回答 由于知乎的回答有的非常多 所以用了response.save来存前面爬去的结果
由于知乎站点不能爬取太快 可能有导致任务不能及时完成
所以taskdb需要存取的数据非常多 那个项目的taskdb接近250GB
你期待的结果是什么？实际看到的错误信息又是什么？
pyspider是否支持mongodb集群作为taskdb
然后应该怎么配置...
如果你对这篇内容有疑问，欢迎到本站社区发帖提问 参与讨论，获取更多帮助，或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱，如果其他用户或者作者回复了您的评论，将不能在第一时间通知您！
发布评论
评论（1）
文档里就有配置：http://docs.pyspider.org/en/l...