梯度提升的想法是从黑盒弱模型构建集成模型。您当然可以将 VW 用作黑盒,但请注意 VW 不提供决策树,这是黑盒弱模型在 boosting 中最流行的选择。Boosting 通常会减少偏差(并增加方差),因此您应该确保 VW 模型具有低方差(没有过度拟合)。请参阅偏差-方差权衡。
在 VW 中有一些与 boosting 和 bagging 相关的减少:
--autolink N
添加了多项式N的链接函数,可以认为是一种简单的boosting方式。
--log_multi K
是一种用于 K 类分类的在线提升算法。见论文。您甚至可以将它用于二元分类 (K=2),但不能用于回归。
--bootstrap M
M-way bootstrap 通过在线重要性重采样。用于--bs_type=vote
分类和--bs_type=mean
回归。请注意,这是bagging,而不是 boosting。
--boosting N
(添加于 2015-06-17)使用 N 个弱学习者进行在线提升,请参阅理论论文