问题标签 [hyperparameters]

我希望这样的问题属于这里。所以这就是我现在正在处理的问题：我从制造过程中收集了一些数据（传感器数据、过程参数等），对于离开生产线的每个零件，我都知道它是否是废品。所以对于每个部分，我都有它的过程数据和质量（0：好 1：坏）

我的目标是优化制造工艺，即找到最佳工艺参数以产生最少的废料。

到目前为止我所做的：我尝试了不同的分类算法（随机森林、SVM、神经网络），但没有一个能够达到很好的准确性。我认为原因是数据非常模糊，即如果我有具有相同工艺参数的零件，其中一些可能是废品，而另一些可能是好的。但质量和工艺参数之间肯定存在联系。我现在想要的是预测零件好坏的“概率”。我想估计概率密度？我可以对 K 最近的邻居执行此操作吗？

我目前正在尝试在 MATLAB 中优化我的演员评论算法。发生的情况是 3 个称为 actor、critic 和 model 的神经网络相互连接，并且每个都包含自己的一组超参数。Scikit-optimize特别是该gp_minimize函数似乎是我想使用的一个很好的基于序列模型的优化算法。有谁知道 MATLAB 的类似优化库或如何在 MATLAB 中合并 Scikit 优化函数的方法？

我将 Scikit-Learn 自定义管道 ( sklearn.pipeline.Pipeline) 与RandomizedSearchCV超参数优化结合使用。这很好用。

现在我想将 Keras 模型作为第一步插入管道。模型的参数应该被优化。计算（拟合）的 Keras 模型应该稍后在管道中由其他步骤使用，所以我认为我必须将模型存储为全局变量，以便其他管道步骤可以使用它。这是正确的吗？

我知道 Keras 为 Scikit-Learn API 提供了一些包装器，但问题是这些包装器已经进行了分类/回归，但我只想计算 Keras 模型而不是其他任何东西。

如何才能做到这一点？

例如，我有一个返回模型的方法：

该方法需要一些固定参数，如文件路径等，但不需要 X 和 y（或可以忽略）。应该优化模型的参数（层数等）。

我正在尝试优化机器学习任务的超参数，并编写了一个用于测试各种模型的函数。我希望能够采用网格搜索确定的最佳参数，并将它们放在一种格式中，这样当我准备好拟合模型时，我可以将它们作为关键字参数传递。

我有这个：

它输出这个：

理想情况下，我希望将输出中确定的最佳参数转换为如下所示的内容：

这样我以后就可以轻松地将它们插入一个函数中。我对 Python 很陌生，所以任何帮助都将不胜感激！

假设我们正在尝试找到 的最佳max_depth参数RandomForestClassifier。我们正在使用RandomizedSearchCV：

是否可以告诉RandomizedSearchCV要么从指定的分布中选择，要么sp_randint(1, 100)将参数设置为None哪个将（如文档中所示）：“......扩展节点直到所有叶子都是纯的或直到所有叶子包含少于 min_samples_split 样本......”？

当我现在运行此代码时，我会收到此错误：

SK-learn 的机器学习算法需要大量参数，我很难找出应该为随机搜索调整算法分配哪个间隔。我目前使用 7 种不同的 ML 算法（SVM、LDA、LR、DT、GBC、KNN），但让我们以随机森林为例。

总体：如何分配最佳参数分布以进行搜索？ 更具体地说：我如何确定在 [1:10000] 中搜索最大深度是否更好，而不是说；[1:10]？任何人都可以推荐任何最佳选择吗？（甚至可能有来源）目前，这是我得到的最接近的：How to tune parameters in Random Forest, using Scikit Learn？

我完全承认我可能在这里设置了错误的条件空间，但由于某种原因，我根本无法让它发挥作用。我正在尝试使用 hyperopt 来调整逻辑回归模型，并且根据求解器的不同，还有一些其他参数需要探索。如果您选择 liblinear 求解器，您可以选择惩罚，根据惩罚，您还可以选择对偶。但是，当我尝试在此搜索空间上运行 hyperopt 时，它一直给我一个错误，因为它传递了整个字典，如下所示。有任何想法吗？

我得到的错误是

这种格式在设置随机森林搜索空间时有效，所以我很茫然。

这是我想要实现的（导入 hyperopt），以下是我的 jupyter 控制台上的错误。

我正在使用 anaconda 64bit 2.7.(windows 8)

我尝试使用 pip、conda 和 git 安装 hyperopt，但所有试验都失败了。安装软件包时使用没有错误。

你能告诉我我的笔记本电脑或 hyperopt 出了什么问题吗？谢谢你。

我也在 cmd python 中尝试过，我尝试了“import hyperopt”，但发生了下面的错误。

[MSC v.1500 64 位 (AMD64)] 在 win32 上键入“帮助”、“版权”、“信用”或“许可证”以获取更多信息。Anaconda 由 Continuum Analytics 提供给您。请查看：http ://continuum.io/thanks和https://anaconda.org 导入 hyperopt =========================== == 测试会话开始 ============================== 平台 win32 -- Python 2.7.13, pytest-3.0.5, py -1.4.32, pluggy-0.4.0 rootdir: C:\Users\Seong NohYoon, inifile: 收集 0 个项目 / 1 个错误

This is my first attempt to write the covariance function. I have following values,

The formula for squared exponential covariance function is

The matlab code for that I have written as :

where sf is the signal standard deviation, ell the characteristic length scale, sn the noise standard deviation and Ntr the length of the training input data x. But this giving me no result. Is there is any mistake in my coding ?

And once I calculate, I want to summarize into matrix form as shown below ,

Any help please ?

if x_ = 0.2 then how we can calculate :

a) K_ =[k(x_,x1) k(x_,x2)..........k(x_,xn)] and

b) K__ = k(x_,x_)

Using matlab ?

我尝试调整超参数

然后适合

我得到

在那之后，我都一样并得到

问题是什么？数据集的大小

我认为我们必须使用random_state但KerasClassifier()没有得到相同的结果random_state