r - Gradient Boosting 回归是否比随机森林更准确（MSE 更低）？

Question

我刚刚创建了一个梯度提升模型，其样本外预测比随机森林差。GBM 的 MSE 比随机森林高 10%。下面是我的示例代码。我确定它是否有任何问题。

gbm1 <- gbm(as.formula(paste0(Y.idx ,'~', paste0(colnames(rf.tmp.train[c(-1,-2)],collapse=""))),
data=rf.tmp.train,distribution="gaussian",n.trees=3000,         
shrinkage=0.001,interaction.depth=1,bag.fraction = 0.5,          
train.fraction = 1,n.minobsinnode = 10, cv.folds = 10,       
keep.data=TRUE, verbose=FALSE,n.cores=1)

Answer 1

根据我的工作经验，gbm 通常比随机森林表现更好，而随机森林通常比其他算法表现更好。在您的情况下，您可能需要调整 gbm 和随机森林的参数。首先，我推荐 caret 包，它会自动执行调整过程。

干杯