7

我有一个 Python 脚本,它使用 UTF-8 编码编写一些字符串。在我的脚本中,我主要使用str()转换为字符串的函数。它看起来像这样:

mystring="this is unicode string:"+japanesevalues[1] 
#japanesevalues is a list of unicode values, I am sure it is unicode
print mystring

我不使用 Python 终端,只使用标准的 Linux Red Hat x86_64 终端。我将终端设置为输出 utf8 字符。

如果我执行这个:

#python myscript.py
this is unicode string: カラダーズ ソフィー

但如果我这样做:

#python myscript.py > output

我得到了典型的错误:

UnicodeEncodeError: 'ascii' codec can't encode characters in position 253-254: ordinal not in range(128)

这是为什么?

4

2 回答 2

15

终端有一个字符集,Python 知道该字符集是什么,因此它会自动将您的 Unicode 字符串解码为终端使用的字节编码,在您的情况下为 UTF-8。

但是当您重定向时,您不再使用终端。您现在只是使用 Unix 管道。该 Unix 管道没有字符集,Python 无法知道您现在想要哪种编码,因此它将回退到默认字符集。您已用“Python-3.x”标记您的问题,但您的print语法是 Python 2,所以我怀疑您实际上使用的是 Python 2。然后您的sys.getdefaultencoding()is general 'ascii',在您的情况下肯定是这样。当然,您不能将日文字符编码为 ASCII,因此会出现错误。

使用 Python 2 时最好的选择是在打印之前使用 UTF-8 对字符串进行编码。然后重定向将起作用,生成的文件为 UTF-8。这意味着如果您的终端是其他东西,它将无法工作,但是您可以从中获取终端编码sys.stdout.encoding并使用它(在 Python 2 下重定向时它将是 None )。

在 Python 3 中,您的代码应该按原样工作,只是您需要更改print mystringprint(mystring).

于 2013-07-02T07:06:58.843 回答
2

如果它输出到终端,那么 Python 可以检查 的值$LANG来选择一个字符集。如果您重定向,所有赌注都将关闭。

于 2013-07-02T06:49:46.290 回答