问题标签 [ensemble-learning]

在学习使用 Pipelines 和 GridSearchCV 时，我尝试将随机森林回归器与支持向量回归器集成在一起。单独 GridSearchCV 把两者都放在大约 90% 的分数，我是不是很卡住。但将 SVR 置于随机森林之前，它跃升至 92%。

我找不到任何这样的例子，所以我认为它不是很有用，不正确，或者有更好的方法。将不胜感激任何指导。

我使用带有套索和随机森林的 SKLearn 波士顿房屋集创建了一个快速示例。合并使“mean_test_score”从大约 62% 增加到 65%。相关片段如下，完整笔记本位于： http: //nbviewer.jupyter.org/gist/Blebg/ce279345456dc706d2deddcfab49a984

我有三个模型概率预测mod.p1, mod.p2, mod.p3

最终结果在判决中给出（是，否）

我为每个模型设置了三个权重

创建集成预测并计算 auc

现在我如何编写一个 for 循环来尝试不同的值i1 , i2 and i3，并返回i1 , i2 and i3给我最大 AUC 的最佳可能值。

我正在使用集成方法（随机森林、xgbclassifier 等）进行分类。

一个重要方面是特征重要性预测，如下所示：

该模型的准确度得分约为 0.85；显然 Feature-A 非常重要，所以我决定删除 Feature-A 并重新计算。

然而，在移除 Feature-A 之后，我仍然发现了一个不错的性能，准确度在 0.79 左右。

这对我来说没有意义，因为 Feature-A 为模型贡献了 25%，如果去掉，为什么准确率几乎不会受到影响？

我知道集成方法具有将“弱”特征组合成“强”特征的优势，所以准确度得分主要依赖于聚合，对重要特征删除不太敏感？

谢谢

我正在尝试构建 3 个模型的集合，即......深度学习、随机森林和梯度提升。我已将模型 id 作为列表传递给 ensemble 函数，但出现以下错误：

这是我对集成模型的论点：

请告知我哪里出错了。

注意：我正在尝试预测多项式分类。

我在浏览器中查看合奏时遇到了一些问题（运行 Win10，尝试过 Edge、IE 和 Firefox），它需要我下载 Java，但我已经这样做了。

我确实搜索了一些关于如何使 Java 在我的浏览器中工作的信息，并设置了 Java“在浏览器中启用 Java 内容”设置。

是因为环境变量还是其他原因而失败？

我正在使用 Caret 进行 C5.0 建模。在这样做时，我面临着这个问题。这是我的代码。

我的数据，train1，由 6 个类（=多类）和 ID，HOUR....（全数字）组成

问题是以下错误。

警告消息：1：在 predict.C5.0(modelFit, newdata, trial = submodels$trials[j]) 中：对于这个对象，'trials' 应该 <= 7。使用 7 次试验生成的预测

我怎么解决这个问题？请给我一些解决方案。

I'm building ensemble such as Voting using SKlearn and Stacking using brew. However, I Keras wrapper doesn't work correctly.

Building the Voting classifier I receive when one of the elements if KerasClassifier gives me folowing error:

Building Stacking classifier I'm getting:

How could I use Keras with ensembles? Do I have to change framework?

我想对我的数据应用一种集成方法，即多数投票。我还通过“pip install mlxtend”安装了“mlxtend”。我仍然收到错误消息。以下是我得到的错误。

首先是代码：

注意到我之前定义了 clf1、clf2 和clf3，那部分完全没问题。

这是错误：

ImportError：没有名为异常的模块

更新：更新 scikit 学习版本后，这是我得到的错误

我想知道 xgboost 在构建树模型时如何强制执行单调约束。到目前为止，通过阅读代码，我了解到它与每个节点的权重有关，但无法理解为什么这种方法有效。提前感谢您的回答

我正在研究 R 包ranger，它是随机森林集合的实现。我想种植几个子森林，然后将它们组合为一个对象以用于预测新数据。R 包中有一个combine()函数，randomForest但我想为rangerR 包执行此操作。两个子森林的示例可能是

我需要这样的功能。有人可以帮忙吗？