返回介绍

第7章 实战项目:简单分布式爬虫

发布于 2024-01-26 22:39:51 字数 297 浏览 0 评论 0 收藏 0

本章继续实战项目,介绍如何打造分布式爬虫,这对初学者来说是一个不小的挑战,也是一次有意义的尝试。这次打造的分布式爬虫采用比较简单的主从模式,完全手工打造,不使用成熟框架,基本上涵盖了前六章的主要知识点,其中涉及的分布式知识点是分布式进程和进程间通信的内容,算是对Python爬虫基础篇的总结。

目前,大型的爬虫系统都采取分布式爬取结构,通过此次实战项目,大家会对分布式爬虫有一个比较清晰的了解,为之后系统地学习分布式爬虫打下基础。实战目标:爬取2000个百度百科网络爬虫词条以及相关词条的标题、摘要和链接等信息,采用分布式结构改写第6章的基础爬虫,使其功能更加强大。

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文