问题标签 [skopt]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
242 浏览

python - 从skopt中的检查点恢复高斯过程

我希望能够使用库skopt从检查点恢复高斯过程。经过一番研究,我找不到这样做的方法。

这是一个简单的代码来显示我想要做什么:

我希望能够从以前的高斯过程优化中加载一个检查点并继续它,这样模型就不必再次从头开始学习所有内容。有没有办法这样做?

0 投票
1 回答
171 浏览

python - 在 scikit GP 模型上使用贝叶斯优化时出现 ValueError

我正在使用具有 4 个输入和一个输出的高斯过程回归。目标是通过对拟合模型执行贝叶斯优化来找到最优 X。

我用以下方式拟合模型:

到目前为止,这就是我用来执行优化的方法:

我不断收到以下错误:

不确定是否有可能解决问题,我已经尝试过:

但没有成功。有关如何克服此类问题的任何想法?

0 投票
1 回答
1959 浏览

python - 使用 skopt 优化超参数 hidden_​​layer_size MLPClassifier

如何使用MLPClassifier sklearn 和优化神经网络中的层数和隐藏层大小skopt

通常我会指定我的空间,例如:

(比方说超参数alpha_1alpha_2)。

通过 sklearn 中的神经网络实现,我需要调整hidden_layer_sizes哪个是元组:

我怎么能代表这个Space

0 投票
1 回答
454 浏览

python - BayesSearchCV 跳过:ValueError:并非所有点都在空间范围内

我正在XGBRegressor使用BayesSearchCVfromskopt进行参数调整

c:\users\joel thomas wilson\anaconda_python\py2020\envs\optimus_prime\lib\site-packages\skopt\utils.py in check_x_in_space(x, space) 184 if is_2Dlistlike(x): 185 if not np.all([ p in space for p in x]): --> 186 raise ValueError("并非所有点都在"187"空间的范围内。") 188 if any([len(p) != len(space.dimensions ) 对于 x 中的 p]):

ValueError:并非所有点都在空间范围内。

关于我们搜索每个参数的规则/范围的任何线索,这取决于X范围吗?就像我的模型目标在 [-1, 1] 的范围内。这和这个有关系吗?

0 投票
1 回答
367 浏览

python - 在带有 sklearn/Keras 的神经网络上使用 skopt 进行超参数优化

我在使用 skopt 库时遇到问题。我尝试优化神经网络的大小,即神经元和层大小,但是我得到的结果与预期相反。优化不喜欢这些参数,它会产生奇怪的结果,比如 NN 有 4 层,每层有 1 个神经元和 RMSE 8*1e-4。我知道使用高斯过程和皮尔逊指数 0.999 的 RMSE 的最佳值为 4*1e-4,但我无法得到相同的结果。有任何想法吗?

0 投票
1 回答
469 浏览

python-3.x - recursionerror:与 skopt 相比,在 tensorflow 中超出了最大递归深度

我想用 [skopt] ( https://scikit-optimize.github.io/stable/auto_examples/bayesian-optimization.html ) 计算贝叶斯搜索。我的数据集是一个时间序列,t 是我的时间步长。

但我有一个错误:recursionerror:比较中超出了最大递归深度

这是我的代码:

这一步是寻找最佳参数a step t

而这一步是一个循环。

0 投票
1 回答
351 浏览

python - 从 Skopt 中的检查点恢复 gp_minimize 进程

我想恢复一个 gp 进程,但我收到了奇怪的消息。我开始我的 gp 进程,只提供 x0 和 y0=None。我的初始点是 30 和 n_evals = 50。我在第 20 次评估时停止它。然后我加载结果并按照我提供的文档中的示例 x0 和 y0(两者都是列表列表)并运行相同的过程。(我已经重新启动了内核 obv。)但是,即使在评估之后也没有。12 消息是:Iteration No: 13 开始。在随机点评估函数。它应该在哪里寻找下一个最佳点。

难道我做错了什么?

0 投票
1 回答
96 浏览

python-3.x - BayesSearchCV 在 SGDClassifier 参数调整期间不起作用

我正在尝试使用 BayesSearchCV 来调整 SGDClassifier 的参数。下面是我尝试过的代码。

正在创建以下错误:

我还使用相同的 model_param 列表测试了 GridSearchCV 和 RandomizedSearchCV 并且它们工作正常。如何正确使用 BayesSearchCV?我必须在哪里更改或必须删除哪个参数?

[更新]

如果我从 model_param 中删除“l1_ratio”,那么上面的代码将起作用。如何执行保持'l1_ratio'?

0 投票
1 回答
416 浏览

python - 为 XGBoost 调整超参数时出现 BayesSearchCV 错误。ValueError:并非所有点都在空间范围内

我正在尝试使用来自 Scikit Optimizer 的 BayesSearchCV 优化 XGBoost 模型,这是我尝试使用的代码:

它在前几次迭代中运行,分数从 -0.001 逐渐降低到 -0.009。

运行后:

它错误:

我很确定这与“分数”有关,但是当我尝试手动设置分数时,它说它不能接受浮点数作为分数的参数。

我将不胜感激任何帮助理解如何克服这个错误。我不认为数据框有问题,因为我现在已经成功地将它们与 xgb.cv 和 xgbRegressor 一起使用,只是当我尝试使用贝叶斯优化时我开始遇到问题。

编辑:当我在 verbose=99 之后添加 score='neg_mean_squared_error' 作为参数时,它运行的时间更长,但之后我得到了同样的错误:

0 投票
1 回答
160 浏览

python - 使用来自 Scikit Optimize 的 @use_named_args

我在使用@use_named_argsScikit Optimize时遇到问题。问题是我的目标函数接受参数NamedTuple并且我无法更改它,因为这是我正在处理的项目中的要求。现在,我需要实现skopt超参数搜索,我需要用它@use_named_args来装饰我的目标函数。由于我的目标函数接受NamedTuple而不是单个参数(如skopt示例中的那个),我该怎么做?除了需要调整的可变超参数之外,我还需要传递一个固定的超参数集。

下面是我想要实现的代码,但我不能,因为我不能my_objective_function@use_named_args

谢谢!