在 Python 中管道 stdout 时设置正确的编码

Question

当管道传输 Python 程序的输出时，Python 解释器会对编码感到困惑，并将其设置为 None。 这意味着像这样的程序：

# -*- coding: utf-8 -*-
print u"åäö"

正常运行时会正常工作，但会失败：

UnicodeEncodeError：“ascii”编解码器无法对位置 0 处的字符 u'\xa0' 进行编码：序号不在范围内（128）

在管道序列中使用时，序号不在范围 (128) 内。

管道安装时实现此功能的最佳方法是什么？ 我可以告诉它使用 shell/文件系统/正在使用的任何编码吗？

到目前为止我看到的建议是直接修改你的 site.py ，或者使用这个 hack 对默认编码进行硬编码：

# -*- coding: utf-8 -*-
import sys
reload(sys)
sys.setdefaultencoding('utf-8')
print u"åäö"

Is there a better way to make pipeline work?

Answer 1

我上周遇到了类似问题。 在我的 IDE (PyCharm) 中修复起来很容易。

这是我的修复：

从 PyCharm 菜单栏开始：文件 -> 设置...-> 编辑-> 文件编码，然后将：“IDE 编码”、“项目编码”和“属性文件的默认编码”全部设置为 UTF-8，现在她的工作方式就像一个魅力。

希望这可以帮助！

Answer 2

克雷格·麦奎因答案的一个有争议的净化版本。

import sys, codecs
class EncodedOut:
    def __init__(self, enc):
        self.enc = enc
        self.stdout = sys.stdout
    def __enter__(self):
        if sys.stdout.encoding is None:
            w = codecs.getwriter(self.enc)
            sys.stdout = w(sys.stdout)
    def __exit__(self, exc_ty, exc_val, tb):
        sys.stdout = self.stdout

用法：

with EncodedOut('utf-8'):
    print u'ÅÄÖåäö'

Answer 3

我只是想在这里提到一些我必须花费很长时间进行实验才能最终意识到发生了什么的事情。 这对这里的每个人来说可能都是显而易见的，以至于他们都懒得提及。 但如果他们这样做的话会对我有帮助，所以根据这个原则......！

注意：我具体使用 Jython v 2.7，所以这可能不适用于 CPython...

注意2：我的 .py 文件的前两行是：

# -*- coding: utf-8 -*-
from __future__ import print_function

“%”（又名“插值运算符”）字符串构造机制也会导致其他问题...如果“环境”的默认编码是 ASCII 并且您尝试执行类似的操作

print( "bonjour, %s" % "fréd" )  # Call this "print A"

您在 Eclipse 中运行将没有困难...在 Windows CLI 中（ DOS 窗口）您会发现编码是 代码页 850 （我的 Windows 7 操作系统）或类似的东西，至少可以处理欧洲重音字符，所以它会起作用。

print( u"bonjour, %s" % "fréd" ) # Call this "print B"

也会起作用。

OTOH，如果您从 CLI 定向到一个文件，则标准输出编码将为 None，默认为 ASCII（无论如何在我的操作系统上），它将无法处理上述任何一个打印...（可怕的编码错误）。

因此，您可能会考虑使用重定向标准输出

sys.stdout = codecs.getwriter('utf8')(sys.stdout)

，并尝试在 CLI 管道中运行到文件...非常奇怪，上面的 print A 可以工作...但是上面的 print B 会抛出编码错误！ 然而，以下内容可以正常工作：

print( u"bonjour, " + "fréd" ) # Call this "print C"

我得出的结论（暂时）是，如果指定为 使用“u”前缀的 Unicode 字符串被提交给 % 处理机制，它似乎涉及使用默认环境编码，无论您是否已将 stdout 设置为重定向！

人们如何处理这个问题是一个选择问题。 我欢迎 Unicode 专家说出为什么会发生这种情况，我是否在某些方面弄错了，对此的首选解决方案是什么，它是否也适用于 CPython，是否发生在Python 3等中，等等。

Answer 4

我在遗留应用程序中遇到了这个问题，很难确定打印的内容。 我帮助自己解决了这个问题：

# encoding_utf8.py
import codecs
import builtins


def print_utf8(text, **kwargs):
    print(str(text).encode('utf-8'), **kwargs)


def print_utf8(fn):
    def print_fn(*args, **kwargs):
        return fn(str(*args).encode('utf-8'), **kwargs)
    return print_fn


builtins.print = print_utf8(print)

在我的脚本 test.py 之上：

import encoding_utf8
string = 'Axwell Λ Ingrosso'
print(string)

请注意，这会更改所有对 print 的调用以使用编码，因此您的控制台将打印以下内容：

$ python test.py
b'Axwell \xce\x9b Ingrosso'

Answer 5

我可以通过调用来“自动化”它：

def __fix_io_encoding(last_resort_default='UTF-8'):
  import sys
  if [x for x in (sys.stdin,sys.stdout,sys.stderr) if x.encoding is None] :
      import os
      defEnc = None
      if defEnc is None :
        try:
          import locale
          defEnc = locale.getpreferredencoding()
        except: pass
      if defEnc is None :
        try: defEnc = sys.getfilesystemencoding()
        except: pass
      if defEnc is None :
        try: defEnc = sys.stdin.encoding
        except: pass
      if defEnc is None :
        defEnc = last_resort_default
      os.environ['PYTHONIOENCODING'] = os.environ.get("PYTHONIOENCODING",defEnc)
      os.execvpe(sys.argv[0],sys.argv,os.environ)
__fix_io_encoding() ; del __fix_io_encoding

是的，如果此“setenv”失败，则可能会出现无限循环。

Answer 6

在 Windows 上，当我从编辑器（如 Sublime Text）运行 Python 代码时经常遇到这个问题，但如果从命令行运行它则不会。

在这种情况下，请检查编辑器的参数。 对于 SublimeText，这个 Python.sublime-build 解决了这个问题：

{
  "cmd": ["python", "-u", "$file"],
  "file_regex": "^[ ]*File \"(...*?)\", line ([0-9]*)",
  "selector": "source.python",
  "encoding": "utf8",
  "env": {"PYTHONIOENCODING": "utf-8", "LANG": "en_US.UTF-8"}
}

Answer 7

您的代码在脚本中运行时可以正常工作，因为 Python 将输出编码为终端应用程序使用的任何编码。 如果您正在使用管道，则必须自己对其进行编码。

经验法则是：始终在内部使用 Unicode。 解码您收到的内容，并对您发送的内容进行编码。

# -*- coding: utf-8 -*-
print u"åäö".encode('utf-8')

另一个教学示例是一个在 ISO-8859-1 和 UTF-8 之间进行转换的 Python 程序，使两者之间的所有内容都大写。

import sys
for line in sys.stdin:
    # Decode what you receive:
    line = line.decode('iso8859-1')

    # Work with Unicode internally:
    line = line.upper()

    # Encode what you send:
    line = line.encode('utf-8')
    sys.stdout.write(line)

设置系统默认编码是一个坏主意，因为您使用的某些模块和库可能依赖于它是 ASCII 的事实。 不要这样做。

Answer 8

首先，关于这个解决方案：

# -*- coding: utf-8 -*-
print u"åäö".encode('utf-8')

每次都使用给定的编码显式打印是不切实际的。 这将是重复且容易出错的。

更好的解决方案是在程序开始时更改 sys.stdout，以使用选定的编码进行编码。 这是我在 Python: How is sys 上找到的一个解决方案.stdout.encoding 选择了吗？，特别是“toka”的评论：

import sys
import codecs
sys.stdout = codecs.getwriter('utf8')(sys.stdout)

Answer 9

您可能想尝试将环境变量“PYTHONIOENCODING”更改为“utf_8”。 我写了一个页面来讲述我遇到的这个问题。

博文的 Tl;dr：

import sys, locale, os
print(sys.stdout.encoding)
print(sys.stdout.isatty())
print(locale.getpreferredencoding())
print(sys.getfilesystemencoding())
print(os.environ["PYTHONIOENCODING"])
print(chr(246), chr(9786), chr(9787))

为您提供

utf_8
False
ANSI_X3.4-1968
ascii
utf_8
ö ☺ ☻

Answer 10

export PYTHONIOENCODING=utf-8

完成这项工作，但无法在 python 本身上设置它...

我们可以做的是验证是否未设置并告诉用户在调用脚本之前设置它：

if __name__ == '__main__':
    if (sys.stdout.encoding is None):
        print >> sys.stderr, "please set python env PYTHONIOENCODING=UTF-8, example: export PYTHONIOENCODING=UTF-8, when write to stdout."
        exit(1)

更新以回复评论：
当管道传输到 stdout 时，问题就存在。
我在 Fedora 25 Python 2.7.13

python --version
Python 2.7.13

cat b.py

#!/usr/bin/env python
#-*- coding: utf-8 -*-
import sys

print sys.stdout.encoding

running ./b.py

UTF-8

running ./b.py | 中测试 较少的

None

Answer 11

我很惊讶这个答案还没有发布在这里

从 Python 3.7 开始，您可以使用 更改标准流的编码重新配置()：

sys.stdout.reconfigure(encoding='utf-8') 
  

您还可以通过添加 errors 参数来修改编码错误的处理方式。

https://stackoverflow.com/a/52372390/15675011

Answer 12

从Python 3.7开始，我们可以使用Python UTF-8模式，通过使用命令行选项-X utf8：

 python -X utf8 testzh.py

脚本testzh.py包含

print("Content-type: text/html; charset=UTF-8\n") 
print("地球你好!")

要将Windows 10 Internet Service IIS设置为CGI脚本处理程序，

我们将可执行文件设置为：

"C:\Program Files\Python39\python.exe" -X utf8 %s

< /a>

这适用于中文表意文字，正如 Microsoft.Edge 浏览器上所预期的那样，如下截图所示： 否则，会发生错误。

请参阅https://docs.python。 org/3/library/os.html#utf8-mode