请教爬虫设计方面的问题
业务在搞个爬虫玩玩。
有个阻塞队列里放了请求对象, Scheduler 模块会从阻塞队列里拿请求对象
问题是怎么优雅的发给 Downloader 模块,除了再使用个队列。还有其他什么方式?
开发使用的是 java ,下载模块是多线程的。
下载完后又怎么优雅的交给解析模块?
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论