optimization - SVM 和神经网络中的成本函数优化有何不同

Question

SVM 和神经网络是非常流行的机器学习技术。但我读到一个优化函数是凸的，另一个是非凸的。

神经网络如何涉及优化非凸函数而 SVM 涉及凸优化？

Answer 1

不确定我是否完全理解你的问题，但关于 SVM 及其作为凸优化问题的观点 - 你可以阅读这篇短文： http ://www.cs.cmu.edu/~epxing/Class/10701-08s/recitation/svm .pdf

为什么 ANN 成本函数是非凸的在这里得到了回答（特别是 Roland 先生的好回答）： https ://stats.stackexchange.com/questions/106334/cost-function-of-neural-network-is-non-convex