问题标签 [hyperparameters]

我正在尝试在 XGBoost 中进行参数调整。但是，当我运行代码时，它会卡住并且永远不会完成。我使用的数据集有 50000 行和 35 列。我做错了什么还是计算成本太高？

我有一个带有一组已定义参数 ( )的逻辑回归模型。warm_start=True

与往常一样，我调用LogisticRegression.fit(X_train, y_train)并使用模型来预测新的结果。

假设我更改了一些参数，例如，并使用相同的训练数据再次C=100调用方法。.fit

从理论上讲，第二次，我认为.fit与warm_start=False. 然而，从经验上看，实际上并不正确。

请帮助我理解warm_start参数的概念。

PS：我也实现SGDClassifier()了一个实验。

我想知道两个不同分类器的超参数之间是否存在某种相关性。

例如：假设我们LogisticRegression在具有最佳超参数的数据集上运行（通过查找GridSearch）并希望在同一数据集上运行另一个分类器，例如SVC（SVM分类器），但不是使用 查找所有超参数GridSearch，我们可以修复一些值（或减少限制GridSearch超参数的搜索空间的范围？

作为一项实验，我使用了、、和scikit-learn等分类器来分类一些众所周知的数据集。在某些情况下，我能够凭经验看到一些相关性，但并非总是针对所有数据集。LogisticRegressionSVSLinearSVCSGDClassifierPerceptron

所以请帮我澄清这一点。

我有结构化的训练数据，可以使用 flow_from_directory 并训练网络。

现在我希望使用 GridSearchCV 执行超参数调整。当使用 GridSearchCV 和 keras 模型时，该fit方法需要类似数组的对象作为输入和标签。有什么方法可以使用flow_from_directory和执行超参数调整。

我在一些数据集中应用了 SVM（scikit-learn），并希望找到可以为测试集提供最佳精度的 C 和 gamma 值。

我首先将 C 固定为某个整数，然后迭代许多 gamma 值，直到获得为该 C 提供最佳测试集精度的 gamma。然后我修复了在上述步骤中得到的这个 gamma 并迭代值的 C 并找到一个 C 可以给我最好的准确性等等......

但是上述步骤永远不能给出产生最佳测试集精度的 gamma 和 C 的最佳组合。

任何人都可以帮助我找到在 sckit-learn 中获得这个组合（gamma，C）的方法吗？

我目前尝试构建具有多个输出的 MLP。

对于单输出 MLP，我通常使用 H2o packge 实现，它实现了一个很好的随机网格搜索功能。由于 H2o 不支持多输出，我切换到 mxnet 包。

现在我正在尝试找到一种方法来调整我的 MLP 参数。我在 R 中找不到任何为多个输出提供参数调整并允许我使用 mxnet 的包。

你知道任何包或者你有用于超参数搜索的自我实现的功能吗？谢谢！

编辑评论原因：

对于多个输出，我的意思是多个响应变量（MIMO 问题）。例如，我的一项研究任务是预测 RRSB 分布。RRSB 分布有两个参数：n,x。我希望这能解决你的问题

所以，我有一个看起来像的分类器

我想从本质上调整每个估计器的超参数。

有没有办法调整这些分类器的“组合”？谢谢

我正在尝试使用和in调整gamma预计算RBF内核的参数。我按照以下两个链接中的说明进行操作：gridsearchCV()Pipelinescikit-learnStackOverflow

1. 是否可以通过网格搜索在 scikit-learn 中调整自定义内核的参数？
2. 如何在 scikit-learn 中使用管道调整自定义内核函数的参数

但是，这两个链接显示了使用Sklearn's内置chi2_kernel和rbf_kernel函数的示例，而我有兴趣编写自己的 Gram 矩阵内核，如下面的最小工作示例代码所示。

请注意，由于原始问题的复杂性，我故意编写Train并Test设置了函数体；def main()在其中我将有一个用于从目录加载多个数据集的 for 循环，以解决二进制一对一分类问题。因此，我想将这些Train和Test数据集保留在主函数体中。而且我还必须在我的示例代码中计算时单独（而不是一步）G_Train计算Gram 矩阵。G_Test

Iris可以用任何其他数据集替换我的虚拟数据集。

C可以毫无问题地调整参数，但是，我注意到只有参数的第一个值gamma显示为找到的最佳参数。在上面的示例中，我得到以下最佳参数：C = 1, gamma = 0.01. 无论我添加什么C&值，我总是只得到序列中的第一个值。这是上面代码的输出：gammapgamma

输出：

我将不胜感激任何建议。

我想执行超参数搜索。在每个参数组合上，我正在创建适当的图表并对其进行训练。在图中，我有像似然图这样的摘要。

如何组织张量板报告以便在一页中查看所有内容？

我可以有不同的 logdir 名称，还有什么选择？

我正在尝试使用 Keras 对多类分类进行网格搜索。下面是一段代码：

数据的一些属性如下：

还有模特...

这是错误：

该代码用于二进制模型，但我希望针对多类数据集对其进行修改。请协助。谢谢！