1

可用于“Lambda”的值范围是否有任何限制 - 线性回归中的正则化常数。【机器学习问题】

当 Lambda 值为 100 时,我非常适合数据。这是否在“实际”可接受的限制中?

我认为理论上,Lambda的价值是好的,但实际使用呢?

[解决家庭作业问题需要做一些小说明。]

4

1 回答 1

2

我认为 lambda 的实用价值没有限制。您选择了最适合您的问题的方法并坚持下去。例如,如果你有太多的特征和太少的数据,那么模型往往会过度拟合,你必须用更大的 lambda 来对抗它(更好的做法是获取更多数据或删除一些特征)。另一方面,如果您有大量数据且特征数量相对较少,则过度拟合不会是一个大问题,并且 lambda 可以更小。

选择 Lambda 的一种方法是使用 lambda [A .. B] 的值(其中 A>0,B>A)训练您的模型,然后在交叉验证集上绘制成本函数。它将接近一条凸曲线,对应于全局最小值的 lambda 将是最优的。

如需更完整的解释,请观看本讲座:https ://class.coursera.org/ml/lecture/preview/63

于 2012-10-01T12:13:27.867 回答