machine-learning - 误差随k值变化的变化

Question

当我研究 K-fold 时，我想知道 CV-error。随着折叠数的增加，估计的交叉验证误差会更高或更小或没有变化（平均）？

我认为 CV 错误会下降。

Answer 1

CV-error 和折叠数之间的关系不是一个实体上升另一个实体下降，它在某种程度上是任意的。我们需要以某种方式选择 K，以便为我们提供对 CV 误差的最佳估计。选择较大的 K 意味着对高估真实预期误差的偏差较小，但方差会很高。

要回答主要问题，K 和 CV-error 之间的关系取决于很多因素，主要是数据的分布、数据的大小和模型的真实性能。