如何使用 Jsoup 管理 cookie？

Question

Jsoup 中是否有一个简单的 cookie 管理器可以按主机存储 cookie？ 此线程中的示例非常缺乏。

Answer 1

我没有找到适用于 Jsoup 的标准解决方案。这是我使用 HashMap 进行的简单 cookie 处理。它可能缺少一些功能，但我希望它对于我的基本爬虫来说足够工作：

private static HashMap<String, HashMap<String, String>> host2cookies = new HashMap<String, HashMap<String, String>>();

public static String[] DownloadPage(URL url) throws Exception
{
    Connection con = Jsoup.connect(url.toString()).timeout(600000);
    loadCookiesByHost(url, con);


    Document doc = con.get();
    url = con.request().url();

    storeCookiesByHost(url, con);

    return new String[]{url.toString(), doc.html()};
}

private static void loadCookiesByHost(URL url, Connection con) {
    try {
        String host = url.getHost();
        if (host2cookies.containsKey(host)) {
            HashMap<String, String> cookies = host2cookies.get(host);
            for (Entry<String, String> cookie : cookies.entrySet()) {
                con.cookie(cookie.getKey(), cookie.getValue());
            }
        }
    } catch (Throwable t) {
        // MTMT move to log
        System.err.println(t.toString()+":: Error loading cookies to: " + url);
    }
}

private static void storeCookiesByHost(URL url, Connection con) {
        try {
            String host = url.getHost();
            HashMap<String, String> cookies = host2cookies.get(host);
            if (cookies == null) {
                cookies = new HashMap<String, String>();
                host2cookies.put(host, cookies);
            }
            cookies.putAll(con.response().cookies());
        } catch (Throwable t) {
            // MTMT move to log
            System.err.println(t.toString()+":: Error saving cookies from: " + url);
        }    
}   

Answer 2

Connection.Base 类拥有您所需要的一切需要了解 jsoup 如何处理 cookie。

本质上，它可以让您在每个连接上获取和设置它们，但除此之外，您还可以“管理”它们。