machine-learning - 使用强分类器进行提升的效果

Question

使用强（而不是弱，接近随机的错误率）分类器进行提升的效果是什么？有没有可能一个强分类器本身比在 adaboost 中使用这个强分类器和一堆弱分类器时表现得更好？

Answer 1

是的，有可能。一切都取决于您的学习数据集。看看没有免费的午餐定理，总是有不适合特定算法/启发式的数据集（甚至是这些的组合）。

当你在不同的数据集上使用相同错误率的算法时，事情会变得更有趣。分类器应该强或弱的事实并不会改变提升的好处。但是boosting基础中的定理规定它的下限是弱分类器束。如果您使用小于弱分类器，它将不起作用。

以我的经验，我从来没有发现一个问题，我发现了一个如此好的/强大的分类器，以至于任何其他分类器（比随机更好）都不能通过提升某些数据集来提高性能。