svm - 如果我从 randomforest、gbm、svm、nnet 生成预测以获得更准确的预测，如何组合结果（预测）？

Question

更具体地说，如何通过创建集成来改进我的预测？我的意思是我知道我们对从不同算法（随机森林、nnet、gbm、svm）获得的结果（预测）进行回归。但是我们该怎么做呢？

Answer 1

有很多不同的方法可以解决这个问题。一种方法是训练一个新的顶级模型，该模型的输入将是所有其他技术的输出向量。

解决这个问题的另一种方法是使用支持向量机经常使用的方法来解决多类问题。

这种方法类似于每个模型之间的锦标赛比赛，其中所有输出在它们之间进行比较以选择获胜者。通常这是使用“一对一”或“一对一”两种策略之一来完成的（这是一篇比较它们的论文http://www.researchgate.net/publication/228643199_One_Against_One_or_One_Against_All_Which_One_is_Better_for_Handwriting_Recognition_with_SVMs）

这些是我想到的方法，但我很确定你可以找到很多新颖的方法来解决这个问题。