4

我正在尝试使用 bcv 包中的 SVD 插补,但所有插补值都是相同的(按列)。

这是缺少数据的数据集 http://pastebin.com/YS9qaUPs

#load data
dataMiss = read.csv('dataMiss.csv')
#impute data
SVDimputation = round(impute.svd(dataMiss)$x, 2)
#find index of missing values
bool = apply(X = dataMiss, 2, is.na)
#put in a new data frame only the imputed value
SVDImpNA = mapply(function(x,y) x[y], as.data.frame(SVDimputation), as.data.frame(bool))
View(SVDImpNA)

head(SVDImpNA)
        V1   V2   V3
[1,] -0.01 0.01 0.01
[2,] -0.01 0.01 0.01
[3,] -0.01 0.01 0.01
[4,] -0.01 0.01 0.01
[5,] -0.01 0.01 0.01
[6,] -0.01 0.01 0.01

我哪里错了?

4

2 回答 2

5

impute.svd算法的工作原理如下:

  1. 用相应的列均值替换所有缺失值。

  2. 计算k估算矩阵的秩近似。

  3. k将估算位置中的值替换为步骤 2 中计算的秩近似中的相应值。

  4. 重复步骤 2 和 3,直到收敛。

在您的示例代码中,您正在设置k=min(n,p)(默认)。然后,在第 2 步中,秩k近似正好等于插补矩阵。该算法在 0 次迭代后收敛。也就是说,该算法将所有估算条目设置为列均值(或者如果存在数值错误,则非常接近此值)。

如果您想做的不是用列均值估算缺失值,您需要为k. 以下代码使用您的示例数据演示了这一点:

> library("bcv")
> dataMiss = read.csv('dataMiss.csv')

k=3

> SVDimputation = impute.svd(dataMiss, k = 3,  maxiter=10000)$x
> table(round(SVDimputation[is.na(dataMiss)], 2))

-0.01  0.01 
531  1062 

k=2

> SVDimputation = impute.svd(dataMiss, k = 2,  maxiter=10000)$x
> table(round(SVDimputation[is.na(dataMiss)], 2))

-11.31  -6.94  -2.59  -2.52  -2.19  -2.02  -1.67  -1.63 
    25     23     61      2     54     23      5     44 
 -1.61   -1.2  -0.83   -0.8  -0.78  -0.43  -0.31  -0.15 
    14     10     13     19     39      1     14     19 
 -0.14  -0.02      0   0.01   0.02   0.03   0.06   0.17 
    83     96     94     77     30     96     82     28 
  0.46   0.53   0.55   0.56   0.83   0.91   1.26   1.53 
     1    209     83     23     28    111     16      8 
  1.77   5.63   9.99  14.34 
   112     12     33      5 

请注意,对于您的数据,默认的最大迭代次数 (100) 太低(我收到一条警告消息)。为了解决这个问题,我设置了maxiter=10000.

于 2016-04-21T05:15:23.970 回答
0

您描述的问题可能会发生,因为 impute.svd 最初将所有 NA 值设置为等于列均值,然后在收敛时不会更改这些值。

这取决于您首先使用 SVD 插补的原因,但如果您很灵活,解决此问题的一个好方法可能是通过将 k 设置为例如 1 来切换 SVD 调用的等级。目前, k 自动设置为 min(n, p),其中 n = nrow 和 p = ncol,对于您的数据,这意味着 k = 3。例如,如果您将其设置为 1(如在示例中的设置impute.svd 函数文档),则不会发生此问题:

library(bcv) 
dataMiss = read.csv("dataMiss.csv") 
SVDimputation = round(impute.svd(dataMiss, k = 1)$x, 2)

head(SVDimputation) 
      [,1]  [,2]  [,3]
[1,]  0.96 -0.23  0.52
[2,]  0.02 -0.23 -1.92
[3,] -1.87 -0.23  0.52
[4,] -0.92 -0.23  0.52
[5,]  0.49 -0.46  0.52
[6,] -1.87 -0.23  0.52
于 2016-02-28T00:18:51.623 回答