2

为什么在感知器或 SVM 算法中不使用 0-1 损失函数(从概念二元分类模型的角度来看是最明显和信息最丰富的)?

4

1 回答 1

2

在感知器的情况下,大多数时候它们使用梯度下降(或类似的东西)进行训练,并且 0-1 损失函数是平坦的,因此它不能很好地收敛(更不用说它在 0 处不可微)

SVM 是基于解决一个优化问题,使类之间的边距最大化。因此,在这种情况下,凸损失函数更可取,因此我们可以使用几种通用的凸优化方法。0-1 损失函数不是凸函数,因此也不是很有用。请注意,这是由于当前的技术水平,但是如果发现了一种有效优化非凸函数的新方法,那么情况将会改变。

编辑:错字

于 2013-04-22T14:41:02.210 回答