Scheduler 控制 status_queue 的疑问
我在看pyspider 的源码的时候,看到processor 处理完成task 的时候,会将处理的描述一个 status_pack放入status_queue中。但是没弄清楚scheduler 在rpc模式下怎么处理status_queue 的流程。发现有on_task_done 这个方法可以处理status_queue。但是xmlrpc的模式下好像没有调用这个方法?
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论
评论(1)
主线程不断读取 status_queue 处理。
xmlrpc 只是 scheduler 附加的一个东西,它运行在一个独立线程中。无论是否运行它,scheduler 都会处理 status_queue