2

我的问题是关于典型的前馈单隐藏层反向传播神经网络，在 nnet 包中实现，并train()在包插入符中进行训练。这与这个问题有关，但在 R 中的 nnet 和 caret 包的上下文中。

我用一个简单的回归示例演示了这个问题，其中Y = sin(X) + small error：

  1. raw Y ~ raw X:预测的输出在 raw 处一致为零Y < 0。

  2. scaled Y (to 0-1) ~ raw X：解决方案看起来很棒；请参阅下面的代码。

代码如下

library(nnet)
X <- t(t(runif(200, -pi, pi)))
Y <- t(t(sin(X)))           # Y ~ sin(X)
Y <- Y + rnorm(200, 0, .05) # Add a little noise
Y_01 <- (Y - min(Y))/diff(range(Y)) # Y linearly transformed to have range 0-1.
plot(X,Y)
plot(X, Y_01)
dat <- data.frame(cbind(X, Y, Y_01)); names(dat) <- c("X", "Y", "Y_01")
head(dat)
plot(dat)

nnfit1 <- nnet(formula = Y ~ X, data = dat, maxit = 2000, size = 8, decay = 1e-4)
nnpred1 <- predict(nnfit1, dat)
plot(X, nnpred1)

nnfit2 <- nnet(formula = Y_01 ~ X, data = dat, maxit = 2000, size = 8, decay = 1e-4)
nnpred2 <- predict(nnfit2, dat)
plot(X, nnpred2)

在插入符号中使用train()时，有一个 preProcess 选项，但它只缩放输入。train(..., method = "nnet", ...)似乎正在使用原始Y值；请参阅下面的代码。

library(caret)
ctrl <- trainControl(method = "cv", number = 10) 
nnet_grid <- expand.grid(.decay = 10^seq(-4, -1, 1), .size = c(8))
nnfit3 <- train(Y ~ X, dat, method = "nnet", maxit = 2000, 
            trControl = ctrl, tuneGrid = nnet_grid, preProcess = "range")
nnfit3
nnpred3 <- predict(nnfit3, dat)
plot(X, nnpred3)

当然，我可以将Y变量线性变换为正范围，但是我的预测将在错误的范围内。虽然这只是一个小麻烦，但我想知道当输出具有负值时，是否有更好的解决方案来训练带有插入符号的 nnet 或 avNNet 模型。

4

1 回答 1

1

用户topepo在此处交叉验证了此问题

他们答案的相关部分是：

由于 Y 大致介于 -1 和 1 之间，因此您还应该linout = TRUE在nnetandtrain调用中使用。

于 2015-12-12T21:19:46.653 回答