15

在我的数据集中，我有许多连续变量和虚拟变量。对于使用 glmnet 的分析，我希望对连续变量进行标准化，而不是对虚拟变量进行标准化。

我目前通过首先定义一个只有 [0,1] 值的列的虚拟向量然后scale在所有非虚拟列上使用该命令来手动执行此操作。问题是，这不是很优雅。

但是 glmnet 有一个内置的standardize参数。默认情况下，这也会标准化假人吗？如果是这样，是否有一种优雅的方式来告诉 glmnet 的standardize论点跳过假人？

4

2 回答 2

12

简而言之，是的 - 这将使虚拟变量标准化，但这样做是有原因的。该glmnet函数将矩阵作为其X参数的输入，而不是数据框，因此如果参数为 a ，它不会区分factor您可能拥有的列data.frame。如果你看一下 R 函数，glmnet 在standardize内部将参数编码为

    isd = as.integer(standardize)

它将 R 布尔值转换为 0 或 1 整数，以提供给任何内部 FORTRAN 函数（elnet、lognet 等）

如果您进一步检查 FORTRAN 代码（固定宽度 - 老派！），您将看到以下代码块：

          subroutine standard1 (no,ni,x,y,w,isd,intr,ju,xm,xs,ym,ys,xv,jerr)    989
          real x(no,ni),y(no),w(no),xm(ni),xs(ni),xv(ni)                        989
          integer ju(ni)                                                        990
          real, dimension (:), allocatable :: v                                     
          allocate(v(1:no),stat=jerr)                                           993
          if(jerr.ne.0) return                                                  994
          w=w/sum(w)                                                            994
          v=sqrt(w)                                                             995
          if(intr .ne. 0)goto 10651                                             995
          ym=0.0                                                                995
          y=v*y                                                                 996
          ys=sqrt(dot_product(y,y)-dot_product(v,y)**2)                         996
          y=y/ys                                                                997
    10660 do 10661 j=1,ni                                                       997
          if(ju(j).eq.0)goto 10661                                              997
          xm(j)=0.0                                                             997
          x(:,j)=v*x(:,j)                                                       998
          xv(j)=dot_product(x(:,j),x(:,j))                                      999
          if(isd .eq. 0)goto 10681                                              999
          xbq=dot_product(v,x(:,j))**2                                          999
          vc=xv(j)-xbq                                                         1000
          xs(j)=sqrt(vc)                                                       1000
          x(:,j)=x(:,j)/xs(j)                                                  1000
          xv(j)=1.0+xbq/vc                                                     1001
          goto 10691                                                           1002

看一下标记为 1000 的行 - 这基本上是将标准化公式应用于X矩阵。

现在从统计学上讲，通常不会对分类变量进行标准化以保留估计回归量的可解释性。但是，正如 Tibshirani在这里指出的那样，“套索方法需要对回归变量进行初始标准化，以便惩罚方案对所有回归变量都公平。对于分类回归变量，使用虚拟变量对回归变量进行编码，然后对虚拟变量进行标准化” -因此，虽然这会导致连续变量和分类变量之间的任意缩放，但它是为了平等惩罚处理而完成的。

于 2015-03-12T00:41:49.157 回答
3

glmnet对虚拟变量一无所知，因为它没有公式界面（因此不接触model.frameand model.matrix。）如果您希望它们被特殊对待，您必须自己做。

于 2013-07-26T17:53:37.190 回答