Facebook 没有抓取我的网站

发布于 2024-12-23 17:30:07 字数 1459 浏览 2 评论 0原文

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

街角卖回忆 2024-12-30 17:30:07

我做了一些挖掘,结果发现 Facebook 确实收到了 403 响应。这就是我所做的:

$ nc -l -p 8000 > fbbot-request
listening on [any] 8000 ...

http://mydebughost:8000 上运行调试器,我得到:

connect to [78.108.54.9] from out-fc245.tfbnw.net [66.220.153.245] 48731
$ cat fbbot-request 
GET / HTTP/1.1
User-Agent: facebookexternalhit/1.1 (+http://www.facebook.com/externalhit_uatext.php)
Host: mydebughost:8000
Accept: */*
Accept-Encoding: deflate, gzip
Range: bytes=0-40960
Connection: close

现在将 Host 标头更改为 racunovodstvo.com.ba< /code> 并执行请求:

$ cat fbbot-request | nc racunovodstvo.com.ba 80 | head
HTTP/1.1 403 Forbidden
Date: Sat, 31 Dec 2011 14:29:48 GMT
Server: Apache
Last-Modified: Mon, 02 May 2011 07:52:14 GMT
ETag: "444007-1094-4dbe62ae"
Accept-Ranges: bytes
Content-Length: 4244
Connection: close
Content-Type: text/html

经过更多的挖掘,网络服务器对 Range: bytes=0-40960 标头感到困惑。

I did some digging and and it seams as Facebook actually get a 403 response. Here is what i did:

$ nc -l -p 8000 > fbbot-request
listening on [any] 8000 ...

Run the debugger on http://mydebughost:8000 and I get:

connect to [78.108.54.9] from out-fc245.tfbnw.net [66.220.153.245] 48731
$ cat fbbot-request 
GET / HTTP/1.1
User-Agent: facebookexternalhit/1.1 (+http://www.facebook.com/externalhit_uatext.php)
Host: mydebughost:8000
Accept: */*
Accept-Encoding: deflate, gzip
Range: bytes=0-40960
Connection: close

Now change the Host header to racunovodstvo.com.ba and do the request:

$ cat fbbot-request | nc racunovodstvo.com.ba 80 | head
HTTP/1.1 403 Forbidden
Date: Sat, 31 Dec 2011 14:29:48 GMT
Server: Apache
Last-Modified: Mon, 02 May 2011 07:52:14 GMT
ETag: "444007-1094-4dbe62ae"
Accept-Ranges: bytes
Content-Length: 4244
Connection: close
Content-Type: text/html

And after some more digging it seams as the web server get confused by the Range: bytes=0-40960 header.

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文