79

以下行为对我来说似乎相当违反直觉（Python 3.4）：

>>> [(yield i) for i in range(3)]
<generator object <listcomp> at 0x0245C148>
>>> list([(yield i) for i in range(3)])
[0, 1, 2]
>>> list((yield i) for i in range(3))
[0, None, 1, None, 2, None]

最后一行的中间值实际上并不总是None，它们是我们send进入生成器的任何内容，相当于（我猜）以下生成器：

def f():
   for i in range(3):
      yield (yield i)

这三行完全有效，这让我觉得很有趣。参考资料说只允许在函数定义中使用yield（尽管我可能读错了和/或它可能只是从旧版本中复制而来）。前两行在 Python 2.7 中产生 a SyntaxError，但第三行没有。

还有，好像很奇怪

  • 列表推导返回的是生成器而不是列表
  • 并且生成器表达式转换为列表和相应的列表推导包含不同的值。

有人可以提供更多信息吗？

4

1 回答 1

80

注意：这是 CPython 处理推导式yield和生成器表达式中的一个错误，在 Python 3.8 中修复，在 Python 3.7 中带有弃用警告。请参阅Python 错误报告和Python 3.7和Python 3.8的新增功能条目。

生成器表达式、集合和字典推导被编译为（生成器）函数对象。在 Python 3 中，列表推导式得到相同的处理；它们本质上都是一个新的嵌套范围。

如果您尝试反汇编生成器表达式，您会看到这一点：

>>> dis.dis(compile("(i for i in range(3))", '', 'exec'))
  1           0 LOAD_CONST               0 (<code object <genexpr> at 0x10f7530c0, file "", line 1>)
              3 LOAD_CONST               1 ('<genexpr>')
              6 MAKE_FUNCTION            0
              9 LOAD_NAME                0 (range)
             12 LOAD_CONST               2 (3)
             15 CALL_FUNCTION            1 (1 positional, 0 keyword pair)
             18 GET_ITER
             19 CALL_FUNCTION            1 (1 positional, 0 keyword pair)
             22 POP_TOP
             23 LOAD_CONST               3 (None)
             26 RETURN_VALUE
>>> dis.dis(compile("(i for i in range(3))", '', 'exec').co_consts[0])
  1           0 LOAD_FAST                0 (.0)
        >>    3 FOR_ITER                11 (to 17)
              6 STORE_FAST               1 (i)
              9 LOAD_FAST                1 (i)
             12 YIELD_VALUE
             13 POP_TOP
             14 JUMP_ABSOLUTE            3
        >>   17 LOAD_CONST               0 (None)
             20 RETURN_VALUE

上面显示了生成器表达式被编译为代码对象，作为函数加载（MAKE_FUNCTION从代码对象创建函数对象）。该.co_consts[0]引用让我们看到为表达式生成的代码对象，它的使用YIELD_VALUE就像生成器函数一样。

因此，yield表达式在该上下文中起作用，因为编译器将这些视为变相的函数。

这是一个错误；yield在这些表达中没有位置。Python 3.7 之前的 Python语法允许它（这就是代码可编译的原因），但yield表达式规范表明 using yieldhere 实际上不应该工作：

yield 表达式仅在定义生成器函数时使用，因此只能在函数定义的主体中使用。

这已被确认为issue 10544中的一个错误。该错误的解决方案是在 Python 3.8中使用并将yield引发a；在 Python 3.7 中，它引发了 a以确保代码停止使用此构造。如果您使用命令行开关启用 Python 3 兼容性警告，您将在 Python 2.7.15 及更高版本中看到相同的警告。yield fromSyntaxErrorDeprecationWarning-3

3.7.0b1 警告如下所示；将警告变成错误会给你一个SyntaxError例外，就像你在 3.8 中一样：

>>> [(yield i) for i in range(3)]
<stdin>:1: DeprecationWarning: 'yield' inside list comprehension
<generator object <listcomp> at 0x1092ec7c8>
>>> import warnings
>>> warnings.simplefilter('error')
>>> [(yield i) for i in range(3)]
  File "<stdin>", line 1
SyntaxError: 'yield' inside list comprehension

yield列表推导式和生成器表达式的操作方式之间yield的差异源于这两个表达式的实现方式的差异。在 Python 3 中，列表推导式使用LIST_APPEND调用将堆栈顶部添加到正在构建的列表中，而生成器表达式则生成该值。添加(yield <expr>)只是将另一个YIELD_VALUE操作码添加到：

>>> dis.dis(compile("[(yield i) for i in range(3)]", '', 'exec').co_consts[0])
  1           0 BUILD_LIST               0
              3 LOAD_FAST                0 (.0)
        >>    6 FOR_ITER                13 (to 22)
              9 STORE_FAST               1 (i)
             12 LOAD_FAST                1 (i)
             15 YIELD_VALUE
             16 LIST_APPEND              2
             19 JUMP_ABSOLUTE            6
        >>   22 RETURN_VALUE
>>> dis.dis(compile("((yield i) for i in range(3))", '', 'exec').co_consts[0])
  1           0 LOAD_FAST                0 (.0)
        >>    3 FOR_ITER                12 (to 18)
              6 STORE_FAST               1 (i)
              9 LOAD_FAST                1 (i)
             12 YIELD_VALUE
             13 YIELD_VALUE
             14 POP_TOP
             15 JUMP_ABSOLUTE            3
        >>   18 LOAD_CONST               0 (None)
             21 RETURN_VALUE

YIELD_VALUE字节码索引 15 和 12 处的操作码是额外的，是一只杜鹃在巢中。因此，对于 list-comprehension-turned-generator，您每次都有 1 个 yield 产生堆栈顶部（用yield返回值替换堆栈顶部），而对于生成器表达式变体，您产生堆栈顶部（ integer) 然后再次yield ，但现在堆栈包含的返回值，yield你得到None第二次。

对于列表推导，list仍会返回预期的对象输出，但 Python 3 将其视为生成器，因此返回值作为属性附加到StopIteration异常：value

>>> from itertools import islice
>>> listgen = [(yield i) for i in range(3)]
>>> list(islice(listgen, 3))  # avoid exhausting the generator
[0, 1, 2]
>>> try:
...     next(listgen)
... except StopIteration as si:
...     print(si.value)
... 
[None, None, None]

这些None对象是yield表达式的返回值。

并再次重申这一点；同样的问题也适用于 Python 2 和 Python 3 中的字典和集合理解；在 Python 2 中，yield返回值仍然添加到预期的字典或集合对象中，并且返回值最后是“yielded”而不是附加到StopIteration异常：

>>> list({(yield k): (yield v) for k, v in {'foo': 'bar', 'spam': 'eggs'}.items()})
['bar', 'foo', 'eggs', 'spam', {None: None}]
>>> list({(yield i) for i in range(3)})
[0, 1, 2, set([None])]
于 2015-08-21T12:08:38.100 回答