python - 如何使用 joblib 并行化缓存函数

Question

我想并行化一个用 joblib.Memory 缓存的函数，但是我收到以下错误：

TypeError: can't pickle function objects

这是代码：

import joblib

mem = joblib.Memory(cachedir='/tmp')


@mem.cache
def foo(x):
    # do some complicated task
    return x + 1

if __name__ == '__main__':
    f = joblib.delayed(foo)
    res = joblib.Parallel(n_jobs=-2)(f(x) for x in range(100))

Answer 1

尝试为装饰函数使用不同的名称，例如foo_cached = mem.cache(foo)代替装饰器。另见https://github.com/joblib/joblib/issues/226