pyspider 运行一段时间之后出现phantomjs对于大量请求没有response

发布于 2022-09-02 16:13:37 字数 510 浏览 6 评论 0

我的pyspider正常运行好长一段时间了,对于phantomjs是定时重启的,可是在突然发现守护进程被杀掉了,整个pyspider重启以后仍然出现phantomjs没有反映,请问这是什么原因?谢谢!!

clipboard.png

【补充】重新使用pyspider -c pyspider.json 启动的时候phantomjs组建没有开启,手动再通过pyspider -c pyspider.json phantomjs 开启,之后再发请求调试,出现下面的情况:

clipboard.png

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(3

烟花易冷人易散 2022-09-09 16:13:38

phantomjs 很容易内存泄露,或者死掉,所有的服务器端 browser 都有这个问题。有计划假如 splash 等多个渲染后端选择,但是并不能解决问题。
部署时建议不要用 all 模式,独立进程,独立重启

一人独醉 2022-09-09 16:13:38

请问最后如何解决的 ?

深白境迁sunset 2022-09-09 16:13:38

你好,请问是怎么独立重启的?

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文