3

我是 R 新手，遇到了这个问题：我想比较两种预测技术（支持向量机和神经网络）将它们应用于一些数据，我想比较它们的性能。为此，我使用 ROC 曲线。该代码应该计算 ROC 曲线下的面积，但它不起作用。神经网络代码工作正常，但是当 SVM 部分执行时出现此错误：

> aucs <- auc((dtest$recid=="SI")*1, lr.pred)

roc.default(response, predictor, auc = TRUE, ...) 中的错误：预测器必须是数字或有序的。

> obj.roc <- roc((dtest$recid=="SI")*1, lr.pred )

roc.default((dtest$recid == "SI") * 1, lr.pred) 中的错误：预测器必须是数字或有序的。

这是我的代码。

library(stats)
library(pROC)
library(nnet)
library(e1071)
library(rpart)

data <- read.table("data.csv", header=T)

set.seed(1234)
ind    <- sample(2, nrow(data), replace=TRUE, prob=c(0.8, 0.2))
dtrain <- data[ind==1,]
dtest  <- data[ind==2,]

# Variables for storing comparison results #
bestAuc = 0
bestIdx = 0

# Support Vector Machines
lr.fit  <- svm(recid~., data=dtrain, cost=1000, gamma=1, probability=TRUE)
lr.pred <- predict(lr.fit, dtest, type="response")
aucs    <- auc((dtest$recid=="SI")*1, lr.pred)
obj.roc <- roc((dtest$recid=="SI")*1, lr.pred)

print("SVN (default)")
bestAuc = aucs # Initialize


# Neural networks
lr.fit  <- nnet(recid~., data=dtrain, size=4, maxit=500, decay=1, trace=FALSE)
lr.pred <- predict(lr.fit, dtest, type="raw")
aucs    <- auc((dtest$recid=="SI")*1, lr.pred)
obj.roc <- roc((dtest$recid=="SI")*1,  lr.pred )

if(aucs > bestAuc) {
  bestAuc <- aucs
  bestIdx <- 1
  print("Neural networks")
}

我一直在寻找信息，但似乎我正在使用的方法很少。我看到了一个名为 ROCR 的包，我认为它可能很有用，但我也遇到了性能函数错误。我对所有这些库有点迷失，所以我试图坚持我最初的解决方案，没有任何改进。我应该怎么办？


编辑：

该解决方案基于 Calimo 的想法。predict 的返回值没有给出我想要的格式的数据，所以我需要使用这个：

lr.pred <- attr(lr.pred,"probabilities")[,c("SI")]

该句子获取将在 ROC 曲线中分析的列。

4

1 回答 1

3

正如错误消息所说，您需要 lr.pred 中的数字向量或有序因子。这里的问题是 predict（对于 svm）返回预测的类，使得 ROC 练习几乎没有用。

您需要的是获得内部分数，例如班级概率：

lr.pred <- predict(lr.fit, dtest, probability = TRUE)

（对于第一类或第二类，您必须选择要获得的概率。另请注意，该概率type = "response"被忽略。）

于 2014-12-13T15:02:41.977 回答