machine-learning - SVM的gamma和cost参数

Question

大家好，我在使用 libSVM 进行预测时，出现了一个奇怪的现象。

当我没有设置 SVM 的参数时，我将在测试集上获得 99.9% 的性能。同时，如果我设置参数'-c 10 -g 5'，我将在测试集上获得大约 33% 的精度。

顺便说一句，我使用的 SVM 工具包是 LibSVM。

我想知道数据集是否有问题。我不知道哪个结果更有说服力。

Answer 1

您只是碰巧遇到了一个问题，默认值C和gamma工作良好（分别为 1 和 1/num_features）。

gamma=5明显大于默认值。gamma=5当默认值接近最优时，产生非常差的结果是完全合理的。largegamma和 large的组合C是过拟合的完美配方（例如，高训练集性能和低测试集性能）。