如何以一个快速的方法，爬取世界上所有可访问网站的首页？
怎么样设计一个爬虫，可以快速的爬取世界上所有网站的首页？
我想的方法是先获取所有的域名，然后再一个个去爬，那么有途径获取所有域名，还是有更快的办法？
如果你对这篇内容有疑问，欢迎到本站社区发帖提问 参与讨论，获取更多帮助，或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱，如果其他用户或者作者回复了您的评论，将不能在第一时间通知您！
怎么样设计一个爬虫，可以快速的爬取世界上所有网站的首页？
我想的方法是先获取所有的域名，然后再一个个去爬，那么有途径获取所有域名，还是有更快的办法？
由于您还没有绑定你的真实邮箱，如果其他用户或者作者回复了您的评论，将不能在第一时间通知您！
接受 或继续使用网站，即表示您同意使用 Cookies 和您的相关数据。
发布评论
评论（1）
域名是依賴 DNS 進行的，獲取所有域名可以從 DNS 入手。
得到列表之後就好辦了，並行請求，瓶頸在於網速。