robots协议真的有用吗？
robots协议真的有用吗？我认为robots协议并没有实质的作用，虽然明确的告知搜索引擎不要抓取某些页面，但是仍然有一些搜索引擎强行抓取这些明文指出不要抓取的页面，难道没有一种可以直接让蜘蛛无法抓取的方法吗？例如权限不足无法抓取之类的？请问如何强制性让搜索引擎无法抓取某些页面？
如果你对这篇内容有疑问，欢迎到本站社区发帖提问 参与讨论，获取更多帮助，或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱，如果其他用户或者作者回复了您的评论，将不能在第一时间通知您！
发布评论
评论（5）
难道不是都抓取，有robots的就没显示出来？
对 正规 公司 有 约束 。
防君子不防小人~
那要看那个环境下人们的道德和政府的法律体系水平而定.
协议性质的东西必然可以被技术干死～
