假设一个shape和 typenumpy
数组。需要通过元素方式的均值中值计算的行。具体来说,行索引被划分为“桶”,每个桶都包含这样的索引。接下来,在每个桶中,我计算平均值,并在得到的平均值中进行最终的中值计算。X
m x n
float64
X
m
b
m/b
澄清它的一个例子是
import numpy as np
m = 10
n = 10000
# A random data matrix
X = np.random.uniform(low=0.0, high=1.0, size=(m,n)).astype(np.float64)
# Number of buckets to split rows into
b = 5
# Partition the rows of X into b buckets
row_indices = np.arange(X.shape[0])
buckets = np.array(np.array_split(row_indices, b))
X_bucketed = X[buckets, :]
# Compute the mean within each bucket
bucket_means = np.mean(X_bucketed, axis=1)
# Compute the median-of-means
median = np.median(bucket_means, axis=0)
# Edit - Method 2 (based on answer)
np.random.shuffle(row_indices)
X = X[row_indices, :]
buckets2 = np.array_split(X, b, axis=0)
bucket_means2 = [np.mean(x, axis=0) for x in buckets2]
median2 = np.median(np.array(bucket_means2), axis=0)
如果b
除法,该程序可以正常工作,m
因为np.array_split()
导致将索引分成相等的部分并且数组buckets
是二维数组。
b
但是,如果不除,它就不起作用m
。在这种情况下,np.array_split()仍会拆分为b
桶,但大小不等,这对我的目的来说很好。例如,如果b = 3
它将索引 {0,1,...,9} 拆分为 [0 1 2 3]、[4 5 6] 和 [7 8 9]。这些数组不能相互堆叠,因此该数组buckets
不是二维数组,不能用于索引X_bucketed
。
我怎样才能使这项工作适用于大小不等的桶,即让程序计算每个桶内的平均值(不管它的大小),然后计算桶的中位数?
我无法完全掌握蒙面数组,我不确定是否可以在这里使用。