6

给定一numpy组阈值，生成满足这些值的另一个数组的计数数组的最有效方法是什么？

假设阈值数组较小且已排序，而要计数的值数组较大且未排序。

示例：对于 的每个元素valueLevels，计算values大于或等于它的元素：

import numpy as np

n = int(1e5) # size of example

# example levels: the sequence 0, 1., 2.5, 5., 7.5, 10, 5, ... 50000, 75000
valueLevels =  np.concatenate(
                   [np.array([0.]), 
                    np.concatenate([ [ x*10**y for x in [1., 2.5, 5., 7.5] ] 
                                   for y in range(5) ] ) 
                    ]
                )

np.random.seed(123)
values = np.random.uniform(low=0, high=1e5, size=n)

到目前为止，我已经尝试了列表理解方法。

  • np.array([sum(values>=x) for x in valueLevels])慢得令人无法接受
  • np.array([len(values[values>=x]) for x in valueLevels])是一个改进
  • 排序values确实加快了理解速度（在示例中，从约 7 毫秒到 0.5 毫秒），但排序的成本（约 8 毫秒）超过了一次性使用的节省

我现在最好的是对这种方法的理解：

%%timeit 
np.array([np.count_nonzero(values>=x) for x in valueLevels])
# 1000 loops, best of 3: 1.26 ms per loop

这对我的目的来说是可以接受的，但出于好奇，

我想知道的是

  • 如果列表理解是要走的路，可以加快速度吗？或者，
  • 其他方法更快吗？（我有一种模糊的感觉，这可以通过在阈值数组上广播值数组来完成，但我不知道如何为np.broadcast_arrays().
4

2 回答 2

5

到目前为止我最快的是

%timeit count_nonzero(values >= atleast_2d(valueLevels).T, axis=1)
# 1000 loops, best of 3: 860 µs per loop

sum较慢：

%timeit sum(values >= atleast_2d(valueLevels).T, axis=1)
# 100 loops, best of 3: 2.5 ms per loop

@Divakar 的版本更慢：

%timeit count_nonzero(values[:, None] >= valueLevels, axis=1)
# 100 loops, best of 3: 3.86 ms per loop

但是，我可能仍然会使用您的列表理解，它不会慢很多，并且不会创建一个大的 2D 布尔数组作为中间步骤：

%timeit np.array([np.count_nonzero(values>=x) for x in valueLevels])
# 1000 loops, best of 3: 987 µs per loop
于 2016-08-19T14:12:04.823 回答
2

方法 #1使用np.searchsorted-

values.size - np.searchsorted(values,valueLevels,sorter=values.argsort())

方法 #2使用NumPy broadcasting-

(values[:,None]>=valueLevels).sum(0)
于 2016-08-19T14:07:50.493 回答