7

有没有办法使用 Vowpal Wabbit 对回归使用梯度提升?我使用 Vowpal Wabbit 附带的各种有用的技术。我想尝试梯度提升,但我找不到在大众汽车上实现梯度提升的方法。

4

1 回答 1

11

梯度提升的想法是从黑盒弱模型构建集成模型。您当然可以将 VW 用作黑盒,但请注意 VW 不提供决策树,这是黑盒弱模型在 boosting 中最流行的选择。Boosting 通常会减少偏差(并增加方差),因此您应该确保 VW 模型具有低方差(没有过度拟合)。请参阅偏差-方差权衡

在 VW 中有一些与 boosting 和 bagging 相关的减少:

  • --autolink N添加了多项式N的链接函数,可以认为是一种简单的boosting方式。
  • --log_multi K是一种用于 K 类分类的在线提升算法。见论文。您甚至可以将它用于二元分类 (K=2),但不能用于回归。
  • --bootstrap MM-way bootstrap 通过在线重要性重采样。用于--bs_type=vote分类和--bs_type=mean回归。请注意,这是bagging,而不是 boosting。
  • --boosting N(添加于 2015-06-17)使用 N 个弱学习者进行在线提升,请参阅理论论文
于 2015-05-04T16:27:48.610 回答