r - R SVM alpha 系数

Question

我正在尝试从 PMML 文件中重新创建 R 中的 SVM 对象，但无法理解 R 如何存储 alpha 系数。我目前正在 iris 数据集上对其进行测试，并使用命令生成了一个 R SVM 对象

library(e1071)
data(iris)
model<-svm(Species~.,data=iris)

我正在用命令查看它的系数

model$coefs

得到以下结果

            [,1]        [,2]
 [1,]  0.0890967  0.00000000
 [2,]  0.0000000  0.14547777
 [3,]  0.8651998  0.94869969
 [4,]  0.0000000  0.13152589
 [5,]  0.0000000  0.27612243
 [6,]  0.8421469  0.45912899
 [7,]  0.4785865  0.00000000
 [8,]  1.0000000  1.00000000
 [9,] -0.4941407  1.00000000
[10,]  0.0000000  1.00000000
[11,]  0.0000000  0.63848160
[12,]  0.0000000  1.00000000
[13,]  0.0000000  1.00000000
[14,] -0.5471576  0.00000000
[15,]  0.0000000  0.52796849
[16,] -0.3772321  0.49504241
[17,]  0.0000000  1.00000000
[18,]  0.0000000  1.00000000
[19,] -0.1146136  1.00000000
[20,]  0.0000000  1.00000000
[21,]  0.0000000  1.00000000
[22,]  0.0000000  1.00000000
[23,]  0.0000000  1.00000000
[24,]  0.0000000  1.00000000
[25,]  0.0000000  1.00000000
[26,]  0.0000000  1.00000000
[27,] -0.7418858  0.10024212
[28,]  0.0000000  1.00000000
[29,]  0.0000000  0.60104219
[30,] -1.0000000  0.00000000
[31,] -0.8335805 -1.00000000
[32,]  0.0000000 -0.05538514
[33,]  0.0000000 -1.00000000
[34,]  0.0000000 -1.00000000
[35,] -0.6171002  0.00000000
[36,] -0.3564736 -1.00000000
[37,]  0.0000000 -1.00000000
[38,]  0.0000000 -1.00000000
[39,]  0.0000000 -1.00000000
[40,]  0.0000000 -1.00000000
[41,]  0.0000000 -1.00000000
[42,]  0.0000000 -1.00000000
[43,] -0.6609450 -0.78275762
[44,]  0.0000000 -1.00000000
[45,]  0.0000000 -1.00000000
[46,]  0.0000000 -1.00000000
[47,]  0.0000000 -1.00000000
[48,]  0.0000000 -0.52463404
[49,]  0.0000000 -1.00000000
[50,] -0.4928554  0.00000000
[51,]  0.0000000 -1.00000000

据我了解，有 51 个支持向量，并且由于 R 对多类 SVM 使用一对一，因此基本上有 3 个分类器（setosa v. versicolor、setosa v. virginica 和 versicolor v. virginica），每个分类器都使用这些向量。我如何知道此 coefs 列表中的哪些系数对应于哪个分类器（以及每个分类器使用哪些支持向量）？

我看到 model$nSV 告诉您每个分类器中有多少个支持向量，但它没有指定哪些支持向量实际上是分类器的一部分。提前致谢。

Answer 1

是的，libsvm（r 使用）保持支持向量的方式有点“神秘”。为了更好地理解，让我们只使用花瓣特征，以便稍后将其可视化。

library(e1071)
data(iris)

fit=svm(Species~Petal.Length+Petal.Width, data=iris, kernel = "linear", cost = 10, scale=F)

“alphas time ys”存储在 coef 矩阵中。要知道每个类有多少 SV，您必须查看：

n = fit$nSV; n

在我的运行中，有 1、8 和 8。这意味着第一个n[1](1) SV 仅与第一类有关。对于第一n[1]行，列是 1vs2、1vs3。对于下一n[2]行，列是 2vs1、2vs3。等等。请注意，某些值可能为 0。在我的运行中，第 2 列第 1 列中的 7/8 值为 0，因为您只需要 1 个点来分隔第 1 类和第 2 类。

如果我们要提取 1 vs. 3 分离平面，我们需要这样做：

# class 1 vs. 3
# class 1 has n[1] SV, class 3 has n[3]
# rows of n[1], column 2 = [1vs2, 1vs3*]
# rows of n[3], column 1 = [3vs1*, 3vs2]
coef1 = c(fit$coefs[1:n[1],2],fit$coefs[(sum(n[1:2])+1):sum(n),1])
SVs1 = rbind(fit$SV[1:n[1],],fit$SV[(sum(n[1:2])+1):sum(n),])
w1 = t(SVs1)%*%coef1
# rho stores the b's, [1vs2, 1vs3, 2vs3]
b1 = -fit$rho[2]

绘图（仅 1 级和 3 级）：

plot(rbind(iris.norm[1:50,],iris.norm[101:150,]), col=iris$Species)
abline(-b1/w1[2], -w1[1]/w1[2], col=4)

图片：