当前位置：文江博客话题详情

检查网站每个链接的最佳方法是什么？

发布于 2024-12-02 10:37:55 字数 111 浏览 0 评论 0原文

我想创建一个跟踪网站每个链接的爬虫并检查 URL 以查看其是否有效。现在我的代码使用 url.openStream() 打开 URL。

那么创建爬虫的最佳方法是什么？

原文

分享到QQ

分享到微博

如果你对这篇内容有疑问，欢迎到本站社区发帖提问参与讨论，获取更多帮助，或者扫码二维码加入 Web 技术交流群。

发布评论

需要登录才能够评论，你可以免费注册一个本站的账号。

薄荷→糖丶微凉 2024-12-09 10:37:55

使用 HTML 解析器，例如 Jsoup。

Set<String> validLinks = new HashSet<String>();
Set<String> invalidLinks = new HashSet<String>();

Document document = Jsoup.connect("http://example.com").get();
Elements links = document.select("a");

for (Element link : links) {
    String url = link.absUrl("href");

    if (!validLinks.contains(url) && !invalidLinks.contains(url)) {
        try {
            int statusCode = Jsoup.connect(url).execute().statusCode();

            if (200 <= statusCode && statusCode < 400) {
                validLinks.add(url);
            } else {
                invalidLinks.add(url);
            }
        } catch (Exception e) {
            invalidLinks.add(url);
        }
    }
}

您可能希望在该循环内发送一个 HEAD 以使其更加高效，但是您必须使用 URLConnection 来代替，因为 Jsoup 的设计不支持它（HEAD 不返回任何内容）。

Use a HTML parser like Jsoup.

Set<String> validLinks = new HashSet<String>();
Set<String> invalidLinks = new HashSet<String>();

Document document = Jsoup.connect("http://example.com").get();
Elements links = document.select("a");

for (Element link : links) {
    String url = link.absUrl("href");

    if (!validLinks.contains(url) && !invalidLinks.contains(url)) {
        try {
            int statusCode = Jsoup.connect(url).execute().statusCode();

            if (200 <= statusCode && statusCode < 400) {
                validLinks.add(url);
            } else {
                invalidLinks.add(url);
            }
        } catch (Exception e) {
            invalidLinks.add(url);
        }
    }
}

You may want to send a HEAD instead inside that loop to make it more efficient, but then you'll have to use URLConnection instead as Jsoup by design doesn't support it (a HEAD returns no content).

回复收藏 0 原文