4

您好,我正在使用 python 的 itertools 中的 Grouper 函数来减少大量 select where in(idlist) 查询以提高 sqlite 性能。问题是即使列表小得多,grouper 也会填充块大小的整个空间,所以我必须添加一个循环和比较,在此之前我要优化。

# input list shorter than grouper chunk size
input = (1,2,3,4,5)

grouper(10,input)
# desired output = (1,2,3,4,5)
# actual output = (1,2,3,4,5,None,None,None,None,None)

# current fix for this issue
list_chunks = tuple(tuple(n for n in t if n) for t in grouper(10, input))

我认为必须有一种方法可以在没有这种循环和比较的情况下做到这一点。

注意:使用python 2.5

4

3 回答 3

12

如果不是过滤掉None条目,而是重写grouper()以返回您想要的内容是一个选项,您可以使用以下解决方案itertools.islice

def grouper(n, iterable):
    it = iter(iterable)
    x = tuple(islice(it, n))
    while x:
        yield x
        x = tuple(islice(it, n))

或者更短的等价物(稍微难以理解):

def grouper(n, iterable):
    it = iter(iterable)
    return iter(lambda: tuple(islice(it, n)), ())

例子:

>>> list(grouper(5, range(12)))
[(0, 1, 2, 3, 4), (5, 6, 7, 8, 9), (10, 11)]
于 2012-08-29T20:42:59.200 回答
3

像这样的东西?

>>> filter(bool, (1,2,3,4,5,None,None,None,None,None))
(1, 2, 3, 4, 5)

对于更复杂的情况(例如,列表中有 0 或者您需要删除与 不同的None内容),您可以实现自己的lambda

>>> filter(lambda n: n is not None, (0,1,2,3,4,5,None,None,None,None,None))
(0, 1, 2, 3, 4, 5)

甚至

>>> from functools import partial
>>> from operator import ne
>>> filter(partial(ne, None), (0,1,2,3,4,5,None,None,None,None,None))
(0, 1, 2, 3, 4, 5)
于 2012-08-29T20:29:43.067 回答
1

您可以使用filterand map

map(lambda x: filter(bool, x), grouper(10, my_input))

这是一个例子:

>>> my_input = (1,2,3,4,5,6,7,8,9,1,2,3,3)
>>> map(lambda x: filter(bool, x), list(grouper(10, my_input)))
[(1, 2, 3, 4, 5, 6, 7, 8, 9, 1), (2, 3, 3)]

tuple()最后,如果你希望它是一个元组而不是一个列表,你可以将它包装在一个调用中。

于 2012-08-29T20:34:22.157 回答