UTF-8、CString 和 CFile？ （C++，MFC）

Question

我目前正在开发一个专门与 UTF-8 一起使用的 MFC 程序。在某些时候，我必须将 UTF-8 数据写入文件；为此，我使用 CFiles 和 CStrings。

当我将 utf-8（更准确地说是俄语字符）数据写入文件时，输出看起来像

Ðàñïå÷àòàíî:
Ñèñòåìà
Ïðîèçâîäñòâî

等等。这肯定不是 utf-8。为了正确读取这些数据，我必须更改我的系统设置；将非 ASCII 字符更改为俄语编码表确实有效，但随后我所有基于拉丁语的非 ASCII 字符都会失败。 无论如何，我就是这么做的。

CFile CSVFile( m_sCible, CFile::modeCreate|CFile::modeWrite);
CString sWorkingLine;
//Add stuff into sWorkingline
CSVFile.Write(sWorkingLine,sWorkingLine.GetLength());
//Clean sWorkingline and start over

我错过了什么吗？我应该用别的东西代替吗？我是否错过了某种收获？ 各位程序员，我会倾听你们的智慧和经验。

编辑： 当然，由于我刚刚问了一个问题，我终于找到了一些可能有趣的东西，可以在这里找到。我想我可以分享它。

编辑 2：

好的，所以我将 BOM 添加到我的文件中，该文件现在包含中文字符，可能是因为我没有将行转换为 UTF-8。为了添加 bom，我做了...

char BOM[3]={0xEF, 0xBB, 0xBF};
CSVFile.Write(BOM,3);

之后，我添加了...

    TCHAR TestLine;
    //Convert the line to UTF-8 multibyte.
    WideCharToMultiByte (CP_UTF8,0,sWorkingLine,sWorkingLine.GetLength(),TestLine,strlen(TestLine)+1,NULL,NULL);
    //Add the line to file.
    CSVFile.Write(TestLine,strlen(TestLine)+1);

但是我无法编译，因为我真的不知道如何获取 TestLine 的长度。 strlen 似乎不接受 TCHAR。 已修复，改为使用静态长度 1000。

编辑3：

所以，我添加了这段代码...

    wchar_t NewLine[1000];
    wcscpy( NewLine, CT2CW( (LPCTSTR) sWorkingLine ));
    TCHAR* TCHARBuf = new TCHAR[1000];

    //Convert the line to UTF-8 multibyte.
    WideCharToMultiByte (CP_UTF8,0,NewLine,1000,TCHARBuf,1000,NULL,NULL);

    //Find how many characters we have to add
    size_t size = 0;
    HRESULT hr = StringCchLength(TCHARBuf, MAX_PATH, &size);

    //Add the line to the file
    CSVFile.Write(TCHARBuf,size);

它编译得很好，但是当我查看我的新文件时，它与我没有所有这些新代码时完全相同（例如：Ðàñïå÷àòàíî:）。感觉就像我没有向前迈出一步，尽管我猜只有一小件事使我与胜利分开。

编辑4：

正如内特所要求的，我删除了之前添加的代码，我决定使用他的代码，这意味着现在，当我添加我的行时，我......

        CT2CA outputString(sWorkingLine, CP_UTF8);

    //Add line to file.
    CSVFile.Write(outputString,::strlen(outputString));

一切都编译良好，但俄语字符显示为??????。越来越近了，但仍然不是那样。 顺便说一句，我要感谢所有试图帮助我的人，非常感谢。我已经被这个问题困扰了一段时间了，我等不及这个问题消失了。

最终编辑（我希望如此） 通过改变我第一次获取 UTF-8 字符的方式（我在没有真正了解的情况下重新编码），这对于我输出文本的新方式来说是错误的，我得到了可接受的结果。通过在文件开头添加 UTF-8 BOM 字符，可以在其他程序（例如 Excel）中将其读取为 Unicode。

欢呼！谢谢大家！

Answer 1

当您输出数据时，您需要执行以下操作（这假设您正在以 Unicode 模式进行编译，强烈建议这样做）：

CString russianText = L"Привет мир";

CFile yourFile(_T("yourfile.txt"), CFile::modeWrite | CFile::modeCreate);

CT2CA outputString(russianText, CP_UTF8);
yourFile.Write(outputString, ::strlen(outputString));

如果未定义 _UNICODE （您正在多字节模式下工作），则需要了解您的输入文本所在的代码页并将其转换为您可以使用的内容。此示例显示如何处理 UTF-16 格式的俄语文本，并将其保存为 UTF-8：

// Example 1: convert from Russian text in UTF-16 (note the "L"
// in front of the string), into UTF-8.
CW2A russianTextAsUtf8(L"Привет мир", CP_UTF8);
yourFile.Write(russianTextAsUtf8, ::strlen(russianTextAsUtf8));

更有可能的是，您的俄语文本采用其他代码页，例如 KOI-8R。在这种情况下，您需要从其他代码页转换为 UTF-16。然后将UTF-16转换为UTF-8。您无法使用转换宏直接从 KOI-8R 转换为 UTF-8，因为它们总是尝试将窄文本转换为系统代码页。因此，简单的方法就是这样做：

// Example 2: convert from Russian text in KOI-8R (code page 20866)
// to UTF-16, and then to UTF-8. Conversions between UTFs are
// lossless.
CA2W russianTextAsUtf16("\xf0\xd2\xc9\xd7\xc5\xd4 \xcd\xc9\xd2", 20866);
CW2A russianTextAsUtf8(russianTextAsUtf16, CP_UTF8);
yourFile.Write(russianTextAsUtf8, ::strlen(russianTextAsUtf8));

您不需要 BOM（它是可选的；除非有特定原因，否则我不会使用它）。

请务必阅读以下内容：http ://msdn.microsoft.com/en-us/library/87zae4a3(VS.80).aspx。如果您错误地使用了CT2CA（例如，使用赋值运算符），您将会遇到麻烦。链接的文档页面显示了如何使用和如何不使用它的示例。

更多信息：

• CT2CA 中的 C 表示 const。我尽可能使用它，但某些转换仅支持非常量版本（例如CW2A）。
• CT2CA 中的T 表示您正在从LPCTSTR 转换。因此，无论您的代码是否使用 _UNICODE 标志编译，它都会起作用。您还可以使用CW2A（其中W表示宽字符）。
• CT2CA 中的 A 表示您要转换为“ANSI”（8 位字符）字符串。
• 最后，CT2CA 的第二个参数指示您要转换到的代码页。

要进行反向转换（从 UTF-8 到 LPCTSTR），您可以执行以下操作：

CString myString(CA2CT(russianText, CP_UTF8));

在本例中，我们将 UTF-8 格式的“ANSI”字符串转换为 LPCTSTR。 LPCTSTR 始终假定为 UTF-16（如果定义了 _UNICODE）或当前系统代码页（如果未定义 _UNICODE） 。

Answer 2

您必须将 sWorkingLine 转换为 UTF-8，然后将其写入文件中。

WideCharToMultiByte 可以将 unicode 字符串转换为 UTF-如果您选择 CP_UTF8 代码页，则为 8。
MultiByteToWideChar 可以将 ASCII 字符转换为 unicode。

Answer 3

确保您使用的是 Unicode（TCHAR 是 wchar_t）。然后在写入数据之前，使用 WideCharToMultiByte Win32 API 函数对其进行转换。