返回介绍

9.5 本章小结

发布于 2024-01-30 22:48:37 字数 321 浏览 0 评论 0 收藏 0

本章讲解了一些复杂的Scrapy管道。到目前为止,我们已经学习了Twisted编程方面所有可能需要的内容,并且知道了如何实现进程、使用Item进程管道等复杂功能。我们通过在延时和吞吐量方面添加更多管道阶段,看到了性能是如何变化的。通常情况下,延时和吞吐量被认为是成反比的,不过这是建立在常数并发的假设下的(例如线程的数例有限)。在我们的例子中,我们从N = S · T = 25 · 0.77 ≌ 19开始,在添加管道后,最终达到N = 25·3.33 ≌ 83,并且没有任何性能问题。这就是Twisted编程的力量!现在我们可以进入第10章,使Scrapy的性能更加完美。

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文