3

因此,当我以我的母语在 mod_python 中发布名称或文本时,我得到:

македонија

我也得到:

UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-9: ordinal not in range(128)

当我使用:

hparser = HTMLParser.HTMLParser() 
    req.write(hparser.unescape(text)) 

我该如何解码?

4

1 回答 1

6

UnicodeError如果不了解底层机制,很难解释s。你真的应该阅读其中一个或两个

简而言之(非常小),Unicode 代码点是一个抽象的“事物”,代表一个字符1。程序员喜欢使用这些,因为我们喜欢将字符串视为一次一个字符。不幸的是,很久以前就规定一个字符必须适合一个字节的内存,因此最多可以有 256 个不同的字符。这对于简单的英语来说很好,但不适用于其他任何东西。有一个全球代码点列表——数以千计的代码点——旨在保存所有可能的字符,但显然它们不适合一个字节。

解决方案:构成字符串的代码点的有序列表与其编码为字节序列之间存在差异。每当您使用字符串时,您必须清楚它应该采用哪种形式。

要在形式之间进行转换,您可以.encode()将代码点列表(Unicode 字符串)作为字节列表,并将.decode()字节转换为代码点列表。为此,您需要知道如何将代码点映射为字节,反之亦然,这就是编码。如果你不指定一个,Python 2.x 会猜测你的意思是 ASCII。如果这个猜测是错误的,你会得到一个UnicodeError.

请注意,Python 3.x 在处理 Unicode 字符串方面要好得多,因为字节和代码点之间的区别更加清晰。

1种。


编辑:我想我应该指出这有什么帮助。但是你真的应该阅读上面的链接!到处乱扔.encode()s 和.decode()s 是一种糟糕的编码方式,总有一天你会被更糟糕的问题所困扰。

无论如何,如果你逐步完成你在 shell 中所做的事情,你会看到

>>> from HTMLParser import HTMLParser
>>> text = "македонија"
>>> hparser = HTMLParser()
>>> text = hparser.unescape(text)
>>> text
u'\u043c\u0430\u043a\u0435\u0434\u043e\u043d\u0438\u0458\u0430'

我在这里使用 Python 2.7,所以这是一个 Unicode 字符串,即一系列 Unicode 代码点。我们可以将它们编码为常规字符串(即字节列表),例如

>>> text.encode("utf-8")
'\xd0\xbc\xd0\xb0\xd0\xba\xd0\xb5\xd0\xb4\xd0\xbe\xd0\xbd\xd0\xb8\xd1\x98\xd0\xb0'

但我们也可以选择不同的编码!

>>> text.encode("utf-16")
'\xff\xfe<\x040\x04:\x045\x044\x04>\x04=\x048\x04X\x040\x04'

您需要决定要使用的编码。

你做的时候出了什么问题?好吧,并不是每个编码都能理解每个代码点。特别是"ascii"编码只懂前256!所以如果你尝试

>>> text.encode("ascii")
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-9: ordinal not in range(128)

你只是得到一个错误,因为你不能用 ASCII 编码这些代码点。

当你这样做时req.write,你试图在请求中写下一个代码点列表。但是 HTML 请求不理解代码点:它们只使用 ASCII。Python 2 将尝试通过自动对您的 Unicode 字符串进行 ASCII 编码来提供帮助,如果它们确实是 ASCII 则很好,但如果它们不是则则不然。

所以你需要做req.write(hparser.unescape(text).encode("some-encoding"))

于 2012-04-16T10:48:16.270 回答