我已经在“ Insight into Data Mining Theory and Practice”中完成了 SVM 算法。
Page 253 Example 10.1
在那，算法停止寻找Wtranspose X -gama
并且发现有3 misclassifications。
并告诉accuracy训练集中的分类器是70%。或者在 svm 中是否final optimum solution有任何操作。iteration如果是这样，请告诉我从哪里开始迭代以及我们应该从哪些数据开始迭代。
以迭代方式训练 SVM 以找到全局最优值. 因此它不会陷入某些次优解决方案（如神经网络等），但仍以迭代方式进行训练，因为此类问题不存在封闭形式的解决方案。必须注意，这个优化是根据最小化 SVM 优化项来定义的，包含边距大小和错误分类计数的加权和，尽管您可以人工训练一个模型，它将通过使用 RBF 内核在训练集上具有 100% 的准确率，以及非常大的 C 和 gamma，这将迫使您的 SVM 过度拟合您的数据（这将退化为简单的模型，它只是记住训练集，并且将无用，但您会看到“100%”的分数）。所以 - 是的 - 训练的结果是“最终形式”预期。
第二个问题——“从哪里开始迭代”没有意义。在经典方法中，问题被转化为对偶解释，其中运行 SMO 算法，以便在 Lagrange 多人的线性有界子空间上找到凸函数的最优值。并且迭代会通过违反 KKT 最优性条件的点，所以这些点都是“开始”的。