请教爬虫设计方面的问题

发布于 2022-09-04 19:20:34 字数 173 浏览 11 评论 0

业务在搞个爬虫玩玩。

有个阻塞队列里放了请求对象, Scheduler 模块会从阻塞队列里拿请求对象

问题是怎么优雅的发给 Downloader 模块,除了再使用个队列。还有其他什么方式?

开发使用的是 java ,下载模块是多线程的。

下载完后又怎么优雅的交给解析模块?

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文