python-2.7 - 如何使用 scikit-learn 执行非正则化逻辑回归？

Question

从 scikit-learn 的文档中，默认惩罚是“l2”，而 C（正则化强度的倒数）是“1”。如果我保持这个设置的惩罚='l2'和C=1.0，这是否意味着训练算法是一个非正则化的逻辑回归？相反，当 C 不是 1.0 时，它是正则化逻辑回归分类器？

Answer 1

不，不是那样的。

让我们看一下sklearn 用户指南中的定义：

我们看：

• C乘以损失，而左项（正则化）不受影响

这表示：

• 如果不修改代码，您永远无法完全关闭正则化
• 但是：C您可以通过设置一个巨大的数字 来近似关闭正则化！
  • 随着优化试图最小化正则化惩罚和损失的总和，增加C正则化惩罚的相关性

Answer 2

首先，设置C一个较大的值（相对于您的预期系数）。

如果它不适合你，也设置penalty='l1'