将 scrapy 项目部署到 scrapyd 时 HTTPCACHE 不起作用
当我尝试将 HTTPCACHE 与 scrapyd 一起使用时,出现以下错误: [scrapy] 警告:已禁用 Httpcache Middlware:无法找到 scrapy.cfg 文件来推断项目数据…
云服务器上scrapyd部署出现问题
在云服务器上部署scrapyd总是出现同一个问题, http://(服务器ip):6800/jobs 页面总是报错,没有添加任何项目,只是启动scrapyd,更换Ubuntu和centos系统…
多个scrapy-redis无法同时抓取
同时开启两个scrapy任务,然后往redis中push一个start_url但是只有一个scrapy任务A在运行,当把A停止之后,B任务才会开始抓取。 原因貌似是因为scrap…
安装scrapyd1.0.1时,进行不下去,什么原因?
按照http://94it.net/a/jingxuanboke/2015/0110/445852.html安装。 但是安装之后,python scrapyd,启动。。。 下图是教程中正常的启动画面,但我的启…
- 共 1 页
- 1