网页抓取设计

发布于 2024-10-09 23:11:53 字数 151 浏览 5 评论 0原文

我们可以制作一个在谷歌中搜索单词并导航到各个页面的应用程序吗?使用 Httpwebresponse 或在呈现的页面上搜索单词?它应该有多个代理使用,即以上都是多线程的,每个线程都有不同的代理。

到目前为止,我还没有这样做,作为回报,GetResponse 说“方法不允许”

can we make application that searches google for a word and navigates to various pages? Using Httpwebresponse or and search for a word on rendered page?and it should have multiple proxy usage i.e all above is multi threaded and each thread has different proxy.

So far I have failed to do so in return GetResponse says "Method not allowed"

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

初相遇 2024-10-16 23:11:53

您可能想查看 Google API,因为这会更容易访问,但我不知道您的使用是否需要购买服务许可证。

另外,请验证您是否获得了正确的响应,因为 Google 有时使用 iframe 来显示内容,也许您只获得了外框架?

You might want to look at Google API as that would be much more easy to access but I do no know if your usage would require you to buy the service license.

Also, verify that you get the right response as Google sometimes uses iframes for content, maybe you only get the outer frame?

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文