文章来源于网络收集而来,版权归原创者所有,如有侵权请及时联系!
9.5 本章小结
本章讲解了一些复杂的Scrapy管道。到目前为止,我们已经学习了Twisted编程方面所有可能需要的内容,并且知道了如何实现进程、使用Item进程管道等复杂功能。我们通过在延时和吞吐量方面添加更多管道阶段,看到了性能是如何变化的。通常情况下,延时和吞吐量被认为是成反比的,不过这是建立在常数并发的假设下的(例如线程的数例有限)。在我们的例子中,我们从N = S · T = 25 · 0.77 ≌ 19开始,在添加管道后,最终达到N = 25·3.33 ≌ 83,并且没有任何性能问题。这就是Twisted编程的力量!现在我们可以进入第10章,使Scrapy的性能更加完美。
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论