问题标签 [bayessearchcv]

我正在使用很棒的 scikit-optimize 工具箱进行超参数优化。我的目标是比较 keras 和 scikit-learn 模型。

根据示例https://scikit-optimize.github.io/stable/auto_examples/sklearn-gridsearchcv-replacement.html#sphx-glr-auto-examples-sklearn-gridsearchcv-replacement-py仅使用了 scikit 学习模型. 尝试类似以下代码的操作不允许将 keras 模式集成到 BayesSearchCV 中。

有没有人设法将 KerasClassifier/Regressor 合并到 BayesSearch CV 中？

我正在尝试使用 BayesSearchCV 来调整 SGDClassifier 的参数。下面是我尝试过的代码。

正在创建以下错误：

我还使用相同的 model_param 列表测试了 GridSearchCV 和 RandomizedSearchCV 并且它们工作正常。如何正确使用 BayesSearchCV？我必须在哪里更改或必须删除哪个参数？

[更新]

如果我从 model_param 中删除“l1_ratio”，那么上面的代码将起作用。如何执行保持'l1_ratio'？

我正在尝试使用来自 Scikit Optimizer 的 BayesSearchCV 优化 XGBoost 模型，这是我尝试使用的代码：

它在前几次迭代中运行，分数从 -0.001 逐渐降低到 -0.009。

运行后：

它错误：

我很确定这与“分数”有关，但是当我尝试手动设置分数时，它说它不能接受浮点数作为分数的参数。

我将不胜感激任何帮助理解如何克服这个错误。我不认为数据框有问题，因为我现在已经成功地将它们与 xgb.cv 和 xgbRegressor 一起使用，只是当我尝试使用贝叶斯优化时我开始遇到问题。

编辑：当我在 verbose=99 之后添加 score='neg_mean_squared_error' 作为参数时，它运行的时间更长，但之后我得到了同样的错误：

尝试使用BayesSearchCV调整 sklearn MLPClassifier hidden_​​layer_sizes超参数时，出现错误：.ValueError: can only convert an array of size 1 to a Python scalar

但是，当我使用GridSearchCV 时，效果很好！我错过了什么？

这是一个可重现的示例：

产生：

我正在使用 scikit-optimize 在我的 RandomForestClassifier 超参数空间中执行 BayesSearchCV。一个超参数也应该为 0（零），同时具有对数均匀分布：

由于无法计算 log(0)，显然不可能让参数在某些时候取值为 0。

因此，引发以下错误：

有没有办法解决这个问题？

我正在研究 Kaggle Titanic 数据集。我正在尝试使用 LightGBM 的 LGBMClassifier 来确定给定乘客是否幸存。我已经创建了一个用于填充和处理所有数据的管道，并且正在尝试使用 BayesSearchCV 来优化我的 LightGBM 超参数。我在使用 BayesSearchCV 时收到以下错误：

“TypeError：'版本'和'元组'的实例之间不支持'<'”

我不知道为什么会出现这个错误，因为我可以将我创建的管道拟合到数据中，并且它可以与 Sklearn 的 GridSearchCV 一起使用，所以我不知道这是 BayesSearchCV 的问题还是只是我的问题。我已经将我的管道和运行错误的代码放在下面，并在错误发生的位置标记。

这是错误的一个额外部分，我认为这有助于确定究竟是什么错误。

/Applications/anaconda3/lib/python3.7/site-packages/skopt/space/space.py in rvs(self, n_samples, random_state)

发现另一个与我有相同错误的stackoverflow（`scikit-optimize`包中的TypeError）但没有一个解决方案适合我。

我对 n_points 在 skopt BayesSearchCV 中的工作方式感到困惑。据我了解，贝叶斯搜索是顺序的。但是在 skopt BayesSearchCV 中，我们可以设置 n_point 参数，该参数指定要并行采样的参数设置的数量。这种并行性如何工作？它是执行 n_points 数量的独立贝叶斯搜索还是执行批量贝叶斯优化？

我正在尝试使用 BayesSearchCV，但出现意外错误。我不使用 iid 参数，但错误一直说__init__() got an unexpected keyword argument 'iid'。我将在这里分享我的代码。

代码：

错误信息：

如何从 BayesSearchCV 保存和加载模型。我想将它保存到我的本地计算机并将其加载到 Kaggle 中，但是我尝试了 keras 命令 model.save() 和 skopt dump() {正确的方式}，但都没有保存我的模型。任何帮助深表感谢！

功能：

调用函数

我收到 TypeError: can't pickle _thread.RLock objects

如果有帮助，很高兴发布令人难以置信的长完整堆栈跟踪，但顶部和底部三个部分是：

最佳：

底部：

我有几个不同模型的保存点，我想在另一台机器（Kaggle）上进行评估，但似乎找不到任何关于如何恢复 hdf5 文件并从该点启动 BayesSearchCV 的文档。

这是我创建 BayesSearchCV 并将回调保存为 .hdf5 的方法

任何帮助深表感谢！