问题标签 [hyperparameters]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
matlab - 使用 GPML (Matlab) 的高斯过程的第一个非演示示例?
在对GPML 工具箱有一些基本了解之后,我使用这些工具编写了我的第一个代码。我有一个数据矩阵,即data
由两个总大小为 1000 的数组值组成。我想使用这个矩阵来估计使用 GPML 工具箱的 GP 值。我编写了如下代码:
但是当我运行此代码时出现错误'在对GPML 工具箱有一些基本了解后,我使用这些工具编写了我的第一个代码。我有一个数据矩阵,即data
由两个总大小为 1000 的数组值组成。我想使用这个矩阵来估计使用 GPML 工具箱的 GP 值。我编写了如下代码:
但是当我运行这段代码时,得到:
使用 covMaha 时出错(第 58 行)参数模式为“eye”、“iso”、“ard”、“proj”、“fact”或“vlen”
如果可能的话,请帮助我找出我在哪里犯错?
optimization - TensorFlow 的超参数调整
我正在为直接用 Tensorflow(不是 Keras 或 Tflearn)编写的代码搜索超参数调整包。你能提出一些建议吗?
python - Pytorch 模型的超参数优化
为 Pytorch 模型执行超参数优化的最佳方法是什么?自己实施例如随机搜索?使用 Skicit 学习?或者还有什么我不知道的?
python - 使用 Dask 分布式自定义参数搜索类期间的 thread.lock
我编写了自己的参数搜索实现,主要是因为我不需要 scikit-learn 的 GridSearch 和 RandomizedSearch 的交叉验证。
我使用 dask 来提供最佳的分布式性能。
这是我所拥有的:
在我开始 dask.distributed 之后:
我这样运行它:
得到这个:
你能帮我了解发生了什么以及如何解决这个问题吗?
我也很好奇如何在所有参数结果中找到最小值。有没有更好的方法来使用 Dask?
我相当快地编写了这段代码,从未尝试过串行。我正在与许多其他主题(机器学习、gpu 编程、Numba、Python OOP 等)一起学习 Dask,所以这段代码无论如何都不是最优的......
PS要实际执行它,我使用此调用:model.compute_optimal()
。还没有到这里 - 由于上面的错误。
scikit-learn - 有没有办法在 One-Class SVM 上执行网格搜索超参数优化
有没有办法使用 GridSearchCV 或任何其他内置的 sklearn 函数来找到 OneClassSVM 分类器的最佳超参数?
我目前所做的是使用这样的训练/测试拆分自己执行搜索:
Gamma 和 nu 值定义为:
探索所有可能的超参数并找到最佳超参数的函数:
结果存储在形式的元组列表中:
((伽玛,nu)(accuracy_score,precision_score,recall_score,f1_score,roc_auc_score))
为了找到最佳准确度、f1、roc_auc 分数和参数,我编写了自己的函数:
最佳参数(结果)
python - Tensorflow 模型的超参数调优
我之前使用过 Scikit-learn 的 GridSearchCV 来优化我的模型的超参数,但只是想知道是否存在类似的工具来优化 Tensorflow 的超参数(例如时期数、学习率、滑动窗口大小等)
如果没有,我如何实现一个有效运行所有不同组合的片段?
python - 使用 dask 进行参数搜索
如何使用 Dask 优化搜索参数空间?(没有交叉验证)
这是代码(这里没有DASK):
这是我的使用方法:
问题是:
- 我在这里正确使用 Dask 吗?
- 我是否正确地将数据取回给客户端?有没有更有效的方法来做到这一点?
- 有没有办法在工人身上寻找最佳配对?
PS最近我发布了相关问题,但有不同的问题(使用Dask分布式自定义参数搜索类期间的thread.lock)。我已经解决了它,并将很快发布答案并将关闭该问题。
python - How to pass elegantly Sklearn's GridseachCV's best parameters to another model?
I have found a set of best hyperparameters for my KNN estimator with Grid Search CV:
So far, so good. I want to train my final estimator with these new-found parameters. Is there a way to feed the above hyperparameter dict to it directly? I tried this:
but instead the hoped result new_knn_model
just got the whole dict as the first parameter of the model and left the remaining ones as default:
Disappointing indeed.
python - 将 sklearn 管道 + 嵌套交叉验证用于 KNN 回归
我试图弄清楚如何为此构建一个工作流程sklearn.neighbors.KNeighborsRegressor
,包括:
- 规范化特征
- 特征选择(20 个数字特征的最佳子集,没有具体的总数)
- 在 1 到 20 范围内交叉验证超参数 K
- 交叉验证模型
- 使用 RMSE 作为误差度量
scikit-learn 中有很多不同的选项,以至于我在决定我需要哪些课程时有点不知所措。
此外sklearn.neighbors.KNeighborsRegressor
,我想我需要:
有人可以告诉我定义这个管道/工作流的样子吗?我认为应该是这样的:
它似乎没有出错,但我的一些担忧是:
- 我是否正确执行了嵌套交叉验证以使我的 RMSE 没有偏见?
- 如果我想根据最佳 RMSE 选择最终模型,我应该同时使用
scoring="neg_mean_squared_error"
和cross_val_score
吗GridSearchCV
? SelectKBest, f_classif
用于选择模型特征的最佳选项是什么KNeighborsRegressor
?- 我怎样才能看到:
- 哪个特征子集被选为最佳
- 哪个 K 被选为最佳
任何帮助是极大的赞赏!