JSoup字符编码问题

Question

我正在使用 JSoup 解析来自 http://www.latijnengrieks.com/vertaling.php 的内容?id=5368 。这是第三方网站，未指定正确的编码。我正在使用以下代码加载数据：

public class Loader {

    public static void main(String[] args){
        String url = "http://www.latijnengrieks.com/vertaling.php?id=5368";

        Document doc;
        try {

            doc = Jsoup.connect(url).timeout(5000).get();
            Element content = doc.select("div.kader").first();
            Element contenttableElement = content.getElementsByClass("kopje").first().parent().parent();

            String contenttext = content.html();
            String tabletext = contenttableElement.html();

            contenttext = Jsoup.parse(contenttext).text();
            contenttext = contenttext.replace("br2n", "\n");
            tabletext = Jsoup.parse(tabletext.replaceAll("(?i)<br[^>]*>", "br2n")).text();
            tabletext = tabletext.replace("br2n", "\n");

            String text = contenttext.substring(tabletext.length(), contenttext.length());
            System.out.println(text);


        } catch (IOException e) {
            // TODO Auto-generated catch block
            e.printStackTrace();
        }


    }    

}

这给出了以下输出：

Aeneas dwaalt rond in Troje en zoekt Cre?sa. Cre?sa is echter op de vlucht gestorven Plotseling verschijnt er een schim. Het is de schim van Cre?sa. De schim zegt:'De oorlog woedt!' Troje is ingenomen! Cre?sa is gestorven:'Vlucht!' Aeneas vlucht echter niet. Dan spreekt de schim:'Vlucht! Er staat jou een nieuw vaderland en een nieuw koninkrijk te wachten.' Dan pas gehoorzaamt Aeneas en vlucht.

有什么办法吗？输出中的标记可以再次是原来的 (ü) 吗？

Answer 1

HTTP 响应 Content-Type 标头中缺少 charset 属性。 Jsoup 在解析 HTML 时将采用平台默认字符集。 Document.OutputSettings#charset() 将不起作用，因为它仅用于演示（在 html() 和 text() 上），不是为了解析数据（换句话说，已经太晚了）。

您需要将 URL 读取为 InputStream 并在 Jsoup#parse() 方法中手动指定字符集。

String url = "http://www.latijnengrieks.com/vertaling.php?id=5368";
Document document = Jsoup.parse(new URL(url).openStream(), "ISO-8859-1", url);
Element paragraph = document.select("div.kader p").first();

for (Node node : paragraph.childNodes()) {
    if (node instanceof TextNode) {
        System.out.println(((TextNode) node).text().trim());
    }
}

这导致这里

Aeneas dwaalt rond in Troje en zoekt Creüsa.
Creüsa is echter op de vlucht gestorven
Plotseling verschijnt er een schim.
Het is de schim van Creüsa.
De schim zegt:'De oorlog woedt!'
Troje is ingenomen!
Creüsa is gestorven:'Vlucht!'
Aeneas vlucht echter niet.
Dan spreekt de schim:'Vlucht! Er staat jou een nieuw vaderland en een nieuw koninkrijk te wachten.'
Dan pas gehoorzaamt Aeneas en vlucht.

Answer 2

好吧，我想出了另一种方法来做到这一点。就我而言，我有一个 Jsoup Connection 对象，我想从使用“ISO-8859”编码的网站中的 post() 请求检索 html 响应。由于 JSOUP 的默认编码是 UTF-8，因此响应（html）中的内容会用 � 替换一些字母。我需要以某种方式将其转换为 ISO-8859-15。为此，我创建了连接。

Connection connectionTest = Jsoup.connect("URL")
.cookie("cookiereference", "cookievalue")
.method(Method.POST);

之后，我创建了一个包含帖子答案的响应文档。由于不清楚如何在 Jsoup 中设置响应的编码，我选择执行帖子，然后将响应保存为字节，保留编码属性。之后，我创建了一个新的字符串，传递此字节数组和必须应用的正确编码。之后，将以正确的编码创建文档。

Document response = Jsoup.parse(new String(
connectionTest.execute().bodyAsBytes(),"ISO-8859-15"));

所以，就有了修改前后的返回，当我们使用response.html()

之前：

62.09-1-00 - Suporte t�cnico, manuten�oe outros servi�os em tecnologia da informa�o

之后：

62.09-1-00 - 支持技术、管理和信息技术方面的服务

Answer 3

Jsoup 文档指出，Jsoup 在阅读文档时应该自动检测正确的字符集，但由于某种原因，它对我不起作用。然后我尝试使用 outputSettings().charset(...): 手动设置文档的字符集：

doc.outputSettings().charset("ISO-8859-1");

但这仍然不起作用，所以也许我做错了（我刚刚学习 Jsoup）。

至少对我来说，一种确实有效的解决方法是使用具有字符集集的扫描仪读取网页：

     String charset = "ISO-8859-1";

     URL myUrl = new URL(url);
     Scanner urlScanner = new Scanner(myUrl.openStream(), charset);
     StringBuilder sb = new StringBuilder();
     while (urlScanner.hasNextLine()) {
        sb.append(urlScanner.nextLine() + "\n");
     }
     urlScanner.close();

     doc = Jsoup.parse(sb.toString());

但我将关注此线程，看看是否有人提出更好的建议，一个不需要使用另一个类来读取 HTML。

Answer 4

我使用：

public static String charset = "UTF-8";
doc = Jsoup.parse(new URL(theURL).openStream(), charset, theURL);

另外，将类保存为 UTF-8