网页抓取搜索结果
我需要帮助解决以下问题:
我需要通过 Google 搜索引擎验证特定网站的缓存 URL。如果 url 为 404 或页面不会呈现一些必要的 html 元素(被认为已损坏),我需要记录这些 URL,并在稍后 301 重定向到正确的 URL。我了解 PHP 和一点 Python,但我不确定使用什么方法从给定站点的搜索引擎结果中删除所有 URL。
I need help solving the following issue:
I need to validate cached URLs by Google search engine for a particular site. In the case the url will 404 or the page will not render some necessary html elements (considered broken) I need to log those URLs and later 301 redirect to correct URLs. I know PHP and a little bit of Python but I'm not sure what approach to use to scrap all URLs from search engine results for given site.
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论
评论(1)
http://simplehtmldom.sourceforge.net/ - 一个简单的 html 解析器。此页面有一个示例;不确定这是否仍然适用于谷歌即时搜索等。
http://simplehtmldom.sourceforge.net/ - a simple html parser. there is an example at this page; not sure if this still works with googles instant search etc.