8

我正在尝试使用 dask 并行构建字典，但我遇到了TypeError: Delayed objects of unspecified length are not iterable.

我正在尝试同时计算add,subtract和multiply，以便更快地构建字典。

这是一些代表我的用例的代码：

import dask
from dask.delayed import delayed

x1 = {'a': 1, 'b': 2, 'c': 3}
x2 = {'a': 4, 'b': 5, 'c': 6}

@delayed
def add(d1, d2):
    z = {}
    z['func1_a'] = d1['a'] + d2['a']
    z['func1_b'] = d1['b'] + d2['b']
    z['func1_c'] = d1['c'] + d2['c']
    return z

@delayed
def subtract(d1, d2):
    z = {}
    z['func2_a'] = d1['a'] - d2['a']
    z['func2_b'] = d1['b'] - d2['b']
    z['func2_c'] = d1['c'] - d2['c']
    return z

@delayed
def multiply(d1, d2):
    z = {}
    z['func3_a'] = d1['a'] * d2['a']
    z['func3_b'] = d1['b'] * d2['b']
    z['func3_c'] = d1['c'] * d2['c']
    return z

@delayed
def last_step(d1, d2):
    z = {}
    z.update(add(d1, d2))
    z.update(subtract(d1, d2))
    z.update(multiply(d1, d2))
    return z

最后，当我运行时：

>>> dask.compute(last_step(x1, x2))

<ipython-input-6-1153797c9d18> in final(d1, d2)
      2 def last_step(d1, d2):
      3     z = {}
----> 4     z.update(add(d1, d2))
      5     z.update(subtract(d1, d2))
      6     z.update(multiply(d1, d2))

/Users/me/anaconda3/lib/python3.6/site-packages/dask/delayed.py in __iter__(self)
    409     def __iter__(self):
    410         if getattr(self, '_length', None) is None:
--> 411             raise TypeError("Delayed objects of unspecified length are "
    412                             "not iterable")
    413         for i in range(self._length):

TypeError: Delayed objects of unspecified length are not iterable

我在这里做错了什么/无法理解？

4

1 回答 1

7

您的z对象是字典，而结果add是延迟对象。update 方法需要一个字典。Python 没有办法知道如何使用当你调用计算时将成为一个字典的对象来更新一个字典。

在这种情况下，我建议制作z成延迟对象

# z = {}
z = delayed({})

z 将不再是一个字典，它将成为一个将成为字典的东西。这意味着您不能再检查键、使用 getitem 语法插入其中、执行任何可变操作（例如.update等），但仍然可以在其上调用延迟方法。在您的情况下，我可能会使用纯函数，例如toolz.merge

只是为了设定期望。Dask.delayed 不会完全并行化任意 Python 代码。您仍然需要做一些工作来考虑对象何时延迟以及什么是具体的。

于 2018-02-11T14:07:31.493 回答