scrapy的运行方式

发布于 2022-09-01 16:04:03 字数 69 浏览 12 评论 0

用scrapy做了一个程序想定时爬,但是不知道在编译器上如何运行。
请问有啥方法可以让scrapy在编译器上运行

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(2

半寸时光 2022-09-08 16:04:03

你用pyhcarm,然后在它的控制台里输命令,创建的项目都在你工程里,很方便的啦~

夜夜流光相皎洁 2022-09-08 16:04:03

1.定时爬:在类linux下有个叫crontab定时命令,通过它来定时执行脚本任务,而把运行scrapy爬虫的命令写进脚本里就可以了,通过系统crontab。在win系统下有个计划任务的,意思大致是一样的,你可以自己再去搜素一下去学习,网上都有类似的讲解。

2.scrapy再编译器上运行:以我用的pycharm编辑器举例,就是在你的spider同级目录中(不是在spider目录下)建立个run.py(叫啥都行),编辑内容为:

from scrapy.cmdline import execute
execute(['scrapy', 'crawl', '你的爬虫名字'])

执行爬虫程序的时候,只需要执行这个文件就可以了。
通过内容我们就知道了,其实就通过execute执行了scrapy的cmdline方法,在编辑器调用了scrapy的命令行执行程序而已,所以别的编辑器中也可以去尝试这么做。

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文