8

是否可以functools.lru_cache用于缓存由创建的部分函数functools.partial

我的问题是一个函数,它接受可散列的参数和持续的、不可散列的对象,例如 NumPy 数组。

考虑这个玩具示例:

import numpy as np
from functools import lru_cache, partial

def foo(key, array):
    print('%s:' % key, array)
a = np.array([1,2,3])

由于 NumPy 数组不可散列,这将不起作用:

@lru_cache(maxsize=None)
def foo(key, array):
    print('%s:' % key, array)
foo(1, a)

正如预期的那样,您会收到以下错误:

/Users/ch/miniconda/envs/sci34/lib/python3.4/functools.py in __init__(self, tup, hash)
    349     def __init__(self, tup, hash=hash):
    350         self[:] = tup
--> 351         self.hashvalue = hash(tup)
    352 
    353     def __hash__(self):

TypeError: unhashable type: 'numpy.ndarray'

所以我的下一个想法是用来functools.partial摆脱 NumPy 数组(无论如何它都是不变的)

pfoo = partial(foo, array=a)
pfoo(2)

所以现在我有一个只接受可散列参数的函数,应该非常适合lru_cache. 但是lru_cache在这种情况下可以使用吗?我不能将它用作包装函数而不是@lru_cache装饰器,可以吗?

有没有聪明的方法来解决这个问题?

4

2 回答 2

13

由于数组是常量,因此您可以在实际的 lru 缓存函数周围使用包装器,并简单地将键值传递给它:

from functools import lru_cache, partial
import numpy as np


def lru_wrapper(array=None):
    @lru_cache(maxsize=None)
    def foo(key):
        return '%s:' % key, array
    return foo


arr = np.array([1, 2, 3])
func = lru_wrapper(array=arr)

for x in [0, 0, 1, 2, 2, 1, 2, 0]:
    print (func(x))

print (func.cache_info())

输出:

('0:', array([1, 2, 3]))
('0:', array([1, 2, 3]))
('1:', array([1, 2, 3]))
('2:', array([1, 2, 3]))
('2:', array([1, 2, 3]))
('1:', array([1, 2, 3]))
('2:', array([1, 2, 3]))
('0:', array([1, 2, 3]))
CacheInfo(hits=5, misses=3, maxsize=None, currsize=3)
于 2016-06-03T09:43:45.687 回答
5

这是一个如何使用lru_cachewith的示例functools.partial

from functools import lru_cache, partial
import numpy as np


def foo(key, array):
    return '%s:' % key, array


arr = np.array([1, 2, 3])
pfoo = partial(foo, array=arr)
func = lru_cache(maxsize=None)(pfoo)

for x in [0, 0, 1, 2, 2, 1, 2, 0]:
    print(func(x))

print(func.cache_info())

输出:

('0:', array([1, 2, 3]))
('0:', array([1, 2, 3]))
('1:', array([1, 2, 3]))
('2:', array([1, 2, 3]))
('2:', array([1, 2, 3]))
('1:', array([1, 2, 3]))
('2:', array([1, 2, 3]))
('0:', array([1, 2, 3]))
CacheInfo(hits=5, misses=3, maxsize=None, currsize=3)

这比@AshwiniChaudhary 的解决方案更简洁,并且还使用了functools.partial以下 OP 的要求。


PS:此解决方案改编自Applying functools.lru_cacheto lambda

于 2018-12-22T17:15:19.487 回答