最近用heritrix3爬取度娘知道一直失败,能帮找找原因吗?
爬取环境:liunx 谷歌浏览器
工具:heritrix3.0
爬取方式
一,全网爬取
关键代码:
<prop key="seeds.textSource.value">
# URLS HERE
http://zhidao.baidu.com/question
</prop>
二,规则限定爬取
关键代码:
<list>
<value>^http://zhidao.baidu.com/question.*$</value>
</list>
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论
评论(1)
“关键代码”部分放哪个位置了呢?