问题标签 [hyperparameters]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
396 浏览

matlab - 使用 GPML (Matlab) 的高斯过程的第一个非演示示例?

在对GPML 工具箱有一些基本了解之后,我使用这些工具编写了我的第一个代码。我有一个数据矩阵,即data由两个总大小为 1000 的数组值组成。我想使用这个矩阵来估计使用 GPML 工具箱的 GP 值。我编写了如下代码:

但是当我运行此代码时出现错误'在对GPML 工具箱有一些基本了解后,我使用这些工具编写了我的第一个代码。我有一个数据矩阵,即data由两个总大小为 1000 的数组值组成。我想使用这个矩阵来估计使用 GPML 工具箱的 GP 值。我编写了如下代码:

但是当我运行这段代码时,得到:

使用 covMaha 时出错(第 58 行)参数模式为“eye”、“iso”、“ard”、“proj”、“fact”或“vlen”

如果可能的话,请帮助我找出我在哪里犯错?

0 投票
6 回答
7031 浏览

optimization - TensorFlow 的超参数调整

我正在为直接用 Tensorflow(不是 Keras 或 Tflearn)编写的代码搜索超参数调整包。你能提出一些建议吗?

0 投票
4 回答
28321 浏览

python - Pytorch 模型的超参数优化

为 Pytorch 模型执行超参数优化的最佳方法是什么?自己实施例如随机搜索?使用 Skicit 学习?或者还有什么我不知道的?

0 投票
2 回答
189 浏览

python - 使用 Dask 分布式自定义参数搜索类期间的 thread.lock

我编写了自己的参数搜索实现,主要是因为我不需要 scikit-learn 的 GridSearch 和 RandomizedSearch 的交叉验证

我使用 dask 来提供最佳的分布式性能。

这是我所拥有的:

在我开始 dask.distributed 之后:

我这样运行它:

得到这个:

你能帮我了解发生了什么以及如何解决这个问题吗?

我也很好奇如何在所有参数结果中找到最小值。有没有更好的方法来使用 Dask?

我相当快地编写了这段代码,从未尝试过串行。我正在与许多其他主题(机器学习、gpu 编程、Numba、Python OOP 等)一起学习 Dask,所以这段代码无论如何都不是最优的......

PS要实际执行它,我使用此调用:model.compute_optimal()。还没有到这里 - 由于上面的错误。

0 投票
1 回答
276 浏览

deep-learning - 超参数调整的受控贝叶斯优化

使用贝叶斯优化和一些启发式选择来探索超参数调整的最佳方法是什么?

在 spearmint 或 hyperopt 等包中,可以指定要探索的范围,但我还想探索一些不一定属于该范围的启发式值。有什么建议这样做的最佳做法是什么?

0 投票
2 回答
6762 浏览

scikit-learn - 有没有办法在 One-Class SVM 上执行网格搜索超参数优化

有没有办法使用 GridSearchCV 或任何其他内置的 sklearn 函数来找到 OneClassSVM 分类器的最佳超参数?

我目前所做的是使用这样的训练/测试拆分自己执行搜索:

Gamma 和 nu 值定义为:

探索所有可能的超参数并找到最佳超参数的函数:

结果存储在形式的元组列表中:

((伽玛,nu)(accuracy_score,precision_score,recall_score,f1_score,roc_auc_score))

为了找到最佳准确度、f1、roc_auc 分数和参数,我编写了自己的函数:

最佳参数(结果)

0 投票
2 回答
16080 浏览

python - Tensorflow 模型的超参数调优

我之前使用过 Scikit-learn 的 GridSearchCV 来优化我的模型的超参数,但只是想知道是否存在类似的工具来优化 Tensorflow 的超参数(例如时期数、学习率、滑动窗口大小等

如果没有,我如何实现一个有效运行所有不同组合的片段?

0 投票
0 回答
179 浏览

python - 使用 dask 进行参数搜索

如何使用 Dask 优化搜索参数空间?(没有交叉验证)

这是代码(这里没有DASK):

这是我的使用方法:

问题是:

  1. 我在这里正确使用 Dask 吗?
  2. 我是否正确地将数据取回给客户端?有没有更有效的方法来做到这一点?
  3. 有没有办法在工人身上寻找最佳配对?

PS最近我发布了相关问题,但有不同的问题(使用Dask分布式自定义参数搜索类期间的thread.lock)。我已经解决了它,并将很快发布答案并将关闭该问题。

0 投票
2 回答
14087 浏览

python - How to pass elegantly Sklearn's GridseachCV's best parameters to another model?

I have found a set of best hyperparameters for my KNN estimator with Grid Search CV:

So far, so good. I want to train my final estimator with these new-found parameters. Is there a way to feed the above hyperparameter dict to it directly? I tried this:

but instead the hoped result new_knn_model just got the whole dict as the first parameter of the model and left the remaining ones as default:

Disappointing indeed.

0 投票
1 回答
3103 浏览

python - 将 sklearn 管道 + 嵌套交叉验证用于 KNN 回归

我试图弄清楚如何为此构建一个工作流程sklearn.neighbors.KNeighborsRegressor,包括:

  • 规范化特征
  • 特征选择(20 个数字特征的最佳子集,没有具体的总数)
  • 在 1 到 20 范围内交叉验证超参数 K
  • 交叉验证模型
  • 使用 RMSE 作为误差度量

scikit-learn 中有很多不同的选项,以至于我在决定我需要哪些课程时有点不知所措。

此外sklearn.neighbors.KNeighborsRegressor,我想我需要:

有人可以告诉我定义这个管道/工作流的样子吗?我认为应该是这样的:

它似乎没有出错,但我的一些担忧是:

  • 我是否正确执行了嵌套交叉验证以使我的 RMSE 没有偏见?
  • 如果我想根据最佳 RMSE 选择最终模型,我应该同时使用scoring="neg_mean_squared_error"cross_val_scoreGridSearchCV
  • SelectKBest, f_classif用于选择模型特征的最佳选项是什么KNeighborsRegressor
  • 我怎样才能看到:
    • 哪个特征子集被选为最佳
    • 哪个 K 被选为最佳

任何帮助是极大的赞赏!