7

我需要在另一个数组中找到一个数组的第一个小于或等于元素出现的索引。一种有效的方法是:

import numpy
a = numpy.array([10,7,2,0])
b = numpy.array([10,9,8,7,6,5,4,3,2,1])
indices = [numpy.where(a<=x)[0][0] for x in b]

indices的值为 [0, 1, 1, 1, 2, 2, 2, 2, 2, 3],这正是我所需要的。当然,问题是python“for”循环很慢,我的数组可能有数百万个元素。这有什么麻木的技巧吗?这不起作用,因为它们的数组长度不同:

indices = numpy.where(a<=b) #XXX: raises an exception

谢谢!

4

2 回答 2

14

这可能是一种特殊情况,但您应该能够使用 numpy digitize。这里需要注意的是,箱子必须单调递减或递增。

>>> import numpy
>>> a = numpy.array([10,7,2,0])
>>> b = numpy.array([10,9,8,7,6,5,4,3,2,1])

>>> indices = [numpy.where(a<=x)[0][0] for x in b]
[0, 1, 1, 1, 2, 2, 2, 2, 2, 3]

>>> numpy.digitize(b,a)
array([0, 1, 1, 1, 2, 2, 2, 2, 2, 3])

时序测试的设置:

a = np.arange(50)[::-1]

b = np.random.randint(0,50,1E3)

np.allclose([np.where(a<=x)[0][0] for x in b],np.digitize(b,a))
Out[55]: True

一些时间安排:

%timeit [np.where(a<=x)[0][0] for x in b]
100 loops, best of 3: 4.97 ms per loop

%timeit np.digitize(b,a)
10000 loops, best of 3: 48.1 µs per loop

看起来速度提高了两个数量级,但这在很大程度上取决于垃圾箱的数量。你的时间会有所不同。


为了与 Jamie 的回答进行比较,我对以下两段代码进行了计时。因为我主要想关注searchsortedvs的速度,digitize所以我稍微减少了 Jamie 的代码。相关的块在这里:

a = np.arange(size_a)[::-1]
b = np.random.randint(0, size_a, size_b)

ja = np.take(a, np.searchsorted(a, b, side='right', sorter=a)-1)

#Compare to digitize
if ~np.allclose(ja,np.digitize(b,a)):
    print 'Comparison failed'

timing_digitize[num_a,num_b] = timeit.timeit('np.digitize(b,a)',
                      'import numpy as np; from __main__ import a, b',
                      number=3)
timing_searchsorted[num_a,num_b] = timeit.timeit('np.take(a, np.searchsorted(a, b, side="right", sorter=a)-1)',
                      'import numpy as np; from __main__ import a, b',
                      number=3)

这有点超出了我有限的 matplotlib 能力,所以这是在 DataGraph 中完成的。我已经绘制了timing_digitize/timing_searchsorted大于零的值的对数比searchsorted更快,小于零digitize的值更快。颜色也给出了相对速度。例如,在右上角 (a = 1E6, b=1E6)digitize中显示慢了约 300 倍,searchsorted而对于较小的尺寸digitize可以快 10 倍。黑线大致是盈亏平衡点:

在此处输入图像描述 看起来searchsorted对于大型案例来说,原始速度几乎总是更快,但是digitize如果 bin 的数量很少,简单的语法几乎一样好。

于 2013-09-18T15:23:03.347 回答
5

这很混乱,但它有效:

>>> idx = np.argsort(a)
>>> np.take(idx, np.searchsorted(a, b, side='right', sorter=idx)-1)
array([0, 1, 1, 1, 2, 2, 2, 2, 2, 3], dtype=int64)

如果您的数组始终是排序的,您应该能够摆脱argsort调用。

于 2013-09-18T15:44:22.113 回答