Pyspider task.db 浪费了非常多的存储空间
Pyspider task.db 浪费了非常多的存储空间
抓取网站过程中，新闻分页信息存储到了 save中
self.crawl(each.attr.href, callback=self.detail_page,save='新闻信息')
这些信息在使用后一直存储在数据里，result.db才500M，task.db已经6G了.
如果你对这篇内容有疑问，欢迎到本站社区发帖提问 参与讨论，获取更多帮助，或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱，如果其他用户或者作者回复了您的评论，将不能在第一时间通知您！
发布评论
评论（1）
如果可以的话，尽量少用 save
或者写个脚本清掉