2

我正在使用一个包含大约 54K 记录和 5 个类（pop）的数据集，其中一个类无关紧要。我正在使用 caret 包和以下内容来运行 rpart：

model <- train(pop ~ pe + chl_small, method = "rpart", data = training)

我得到以下树：

n= 54259 

node), split, n, loss, yval, (yprob)
  * denotes terminal node

1) root 54259 38614 pico (0.0014 0.18 0.29 0.25 0.28)  
 2) pe< 5004 39537 23961 pico (0 0.22 0.39 2.5e-05 0.38)  
  4) chl_small< 32070.5 16948  2900 pico (0 0.00012 0.83 5.9e-05 0.17) *
  5) chl_small>=32070.5 22589 10281 ultra (0 0.39 0.068 0 0.54) *
3) pe>=5004 14722  1113 synecho (0.0052 0.052 0.0047 0.92 0.013) *

很明显，节点 5 应该进一步拆分，但 rpart 并没有这样做。我尝试使用cp = .001tocp =.1和minbucket = 1000as 作为附加参数，但没有任何改进。

感谢您对此的任何帮助。

4

1 回答 1

0

尝试使用更小的cp=0.00001or运行模型cp = -1。如果仍然没有拆分该节点，则意味着拆分不会改善整体拟合。

您还可以尝试将拆分标准从默认的 Gini 杂质更改为信息增益标准：parms = list(split = "information")

如果你确实强制它分裂，那么做一个快速检查可能是个好主意：比较原始模型和模型的训练集与测试集的准确性cp。

如果原始模型的训练与测试之间的差异要小得多，那么另一个模型可能会过度拟合数据。

于 2016-09-01T10:26:34.717 回答