0

我在使用 lib-linear 包时遇到了一个非常特殊的问题。我有两个级别(+1,-1)。假设我只有一个特征,它的值为 $x_1$, $x_2$,..., $x_n$ for n points。例如,它可以很好地分类,给出一些正权重 $w*$ 和成本 C。现在,如果我将 $1$ 叠加到前一个特征上以生成一个新的特征向量 [1 x_i] i=1, 2, ...,n; 现在有了这个新问题,lib-linear 给出了以下内容:权重向量 [w_1 -w_2];w_i>0 即权重到 1 是 w_1 而到 x 是 w_2。成本 C1 远大于之前的成本 C。

我知道新功能 (1) 始终没有变化,因此它的权重应该自动归零。

这是一个最小化问题,所以它应该给出 w_1~0,这样现在成本 C1 最多等于 C。

任何人都可以帮忙吗?

4

1 回答 1

0

由于您有一个恒定的输入维度,它在决策函数中的贡献也将是恒定的。LIBLINEAR 的决策函数是

f(x)=sign(w^T*x-rho)

我的猜测是,您的新模型通过 rho 纠正了额外项(由于 w_1 非零)。不过,我不能说我对为什么 w_1 没有最小化为零有一个好主意。两个模型的预测是否相等?

于 2013-05-13T11:48:29.570 回答