1

我希望从我已经拥有的数据中生成新的“假”数据numpy.random.multivariate_normal。

在 nxd pandas DataFrame 中有 n 个样本和 d 个特征：

means = data.mean(axis=0)
covariances = data.cov()
variances = data.var()
means.shape, covariances.shape, variances.shape

>>> ((16349,), (16349, 16349), (16349,))

这看起来不错，但协方差矩阵covariances不是半正定的，这是numpy.random.multivariate_normal.

x = np.linalg.eigvals(covariances)

np.all(x >= 0)
>>> False

len([y for y in x if y < 0])  # negative eigenvalues
>>> 4396

len([y for y in x if y > 0])  # positive eigenvalues
>>> 4585

len([y for y in x if y == 0])  # zero eigenvalues.
>>> 7368

然而，维基百科说

此外，每个协方差矩阵都是半正定的。

这让我想知道pandas.DataFrame.cov是否为您提供了一个真正的协方差矩阵。这是函数的实现。它似乎主要遵循 numpy.cov，它似乎也承诺了一个协方差矩阵。

有人可以帮我解决这个问题吗？为什么pandas.DataFrame.covs()不是半正定的？

更新的问题：

从第一个答案来看，似乎所有的负特征值都很小。该答案的作者建议裁剪这些特征值，但我仍然不清楚如何使用这些信息合理地生成适当的协方差矩阵。

我可以想象使用pd.DataFrame.cov()，进行特征分解以获得特征向量和值，裁剪值，然后将这些矩阵相乘以获得新的协方差矩阵，但这似乎很不稳定。这是在实践中完成的，还是有更好的方法？

4

1 回答 1

1

可能正在发生的事情是结果是半正定的，在计算的准确性范围内。例如：

In [71]: np.linalg.eigvals(np.cov(np.random.random((5,5))))
Out[71]: 
array([  1.87557170e-01,   9.98250875e-02,   6.85211153e-02,
         1.01062281e-02,  -5.99164839e-18])

具有负特征值，但幅度很小。

因此，在您的情况下，我会验证违规的幅度很小，然后剪辑为零。

于 2017-04-30T14:13:19.653 回答