问题标签 [talos]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
420 浏览

tensorflow - 用 keras 编写的神经网络的超参数优化

是否有在 GPU 上优化 KERAS NN 超参数的 python3 库?

我曾尝试将 sklearn 与 KerasClassifier 包装器一起使用,但它使用 cpu。

0 投票
1 回答
1225 浏览

python - 使用 keras 模型进行超参数优化:GridSearchCV 还是 talos?

我想调整模型的超参数,keras并且正在探索手头的替代方案。第一个也是最明显的一个是使用scikit-learn这里显示的包装器(https://keras.io/scikit-learn-api/),从而能够使用工作流中所有scikit-learn美妙的东西,但我也在这里遇到了这个包(https://github.com/autonomio/talos),这似乎很有希望,并且很可能会提高速度。

如果有人同时使用它们,有人可以为我指出更好的解决方案(灵活性、速度、功能)吗?带有自定义估算器的sklearn工作流程pipeline提供了一个灵活的世界,但 talos 似乎更直接地面向 keras,因此它必须产生一些我看不到的优势(我想他们不会制作新的独立包)(一些好处此处突出显示https://github.com/autonomio/talos/blob/master/docs/roadmap.rstscikit-learn但框架内似乎已充分涵盖了此类问题)

有什么见解吗?

0 投票
2 回答
1829 浏览

python - 具有大数据集的 Keras 模型的超参数优化

我想对我的 Keras 模型执行超参数优化。问题是数据集很大,通常在训练中我使用fit_generator从磁盘批量加载数据,但是像SKlearn Gridsearch,Talos等常见的包只支持fit方法。

我尝试使用以下方法将整个数据加载到内存中:

但是在执行网格搜索时,操作系统会因为内存使用量大而将其杀死。我还尝试将我的数据集欠采样到仅 25%,但它仍然太大。

有人和我有同样的经历吗?您能否分享您对大型数据集执行超参数优化的策略?

根据@dennis-ec 的回答,我尝试在此处遵循 SkOpt 的教程:http ://slashtutorial.com/ai/tensorflow/19_hyper-parameters/这是一个非常全面的教程

0 投票
1 回答
1137 浏览

python - 将 keras ImageDataGenerator.flow_from_directory() 与 Talos Scan() 一起使用

Talos 是一个模块,可让您对已编写代码的 keras 模型进行超参数调整。它在示例中使用的常规方式是使用和参数Scan实例化的类。这些参数应该分别包含一个带有训练数据和标签的数组。xy

然而,Keras 提供了第二种使用ImageDataGenerator类导入数据的方法,而不是数组,您只需要一个包含训练/验证图像的目录。

我不清楚我怎么能做到Scan这一点,数据生成应该包含一个超参数(批量大小),它应该在modelbuilder函数内部。但同时Scan需要将数据参数作为数组提供。关于如何将 Talos 与 ImageDataGenerator 结合使用的任何建议。

0 投票
1 回答
392 浏览

keras - Talos 超参数搜索:如何在评估步骤中设置指标

我想了解 talos 中的超参数搜索。特别是模型的评估。我正在浏览这个示例笔记本 https://nbviewer.jupyter.org/github/autonomio/talos/blob/master/examples/Hyperparameter%20Optimization%20with%20Keras%20for%20the%20Iris%20Prediction.ipynb#seven

不,我的问题是:在评估(7)中,如何设置具体的评估指标?例如分类问题的 F1 分数。它们来自 Keras 还是 talos?如果不传递参数,默认是什么?我在 talos 文档中找不到它。我忽略了某事吗?https://autonomio.github.io/docs_talos/#evaluate

0 投票
1 回答
645 浏览

keras - (TalosReturnError) Talos 确保输入模型返回 'out, model' model.fit()

我正在尝试使用 talos 库来调整我的 CNN 模型的超参数,但我遇到了确保函数返回模型和输出的错误。但是在我的函数中,我返回了我的两个变量。

我尝试了很多文章,但它们的相同命令运行良好。我在 kaggle 笔记本上写我的代码

错误回溯:

0 投票
1 回答
107 浏览

machine-learning - 使用 talos 进行网格搜索:传递输入列表错误

我正在使用 keras 功能 API。
我正在尝试传入输入列表。
我试图关注这个问题

但我仍然收到一个错误:

这是我目前的模型:

我的网格搜索参数是:

运行此程序时出现错误:

请注意,我的 train1、train2 是具有 9216 个值的 numpy 数组。(96x96 图像)

0 投票
0 回答
415 浏览

keras - 使用 Talos 和 flow_from_directory 对图像进行超参数优化

我试图优化用于图像分类的 keras CNN 的超参数。我考虑使用 sklearn 和 talos 优化器 ( https://github.com/autonomio/talos ) 的网格搜索。我克服了从 flow_from_directory 制作 x 和 y 的基本困难(下面的代码),但是......它仍然不起作用!任何想法?也许有人面临同样的问题。

最后一行出现错误:

具有多个元素的数组的真值是不明确的。使用 a.any() 或 a.all()

0 投票
0 回答
67 浏览

keras - 无法重现 Talos hyper tune 的性能

我正在使用 Talos 对一个简单的卷积网络进行超调优。运行该scan函数后,性能看起来令人印象深刻(val loss & val acc)。当再次使用相同的参数训练我的网络时,它甚至没有接近。感觉参数和性能彼此无关。我得到的参数如下:报告对象r.best_params()[0]在哪里。r如何重现相同的性能?

0 投票
1 回答
230 浏览

python - 如何使用 Talos 并行化 GridSearch 扫描

talos支持 GPU 并行化的同时,如何扩展 Scan 对象以支持 CPU + GPU 并行化?