tensorflow - 如何在 Keras Tuner 运行期间保存进度？

Question

我目前正在使用免费的 Google Colab 实例上的 Keras Tuner 浏览更大的搜索空间。由于使用限制，我的搜索运行将在完成之前中断。我想定期保存我的搜索进度以防出现这些中断，并在 Colab 资源再次可供我使用时从上一个检查点恢复。我找到了有关如何从运行中保存特定模型的文档，但我想保存搜索的整个状态，包括已经尝试过的内容和这些实验的结果。

我可以打电话Tuner.get_state()，保存结果，然后从我离开的地方继续Tuner.set_state()吗？还是有其他方法？

Answer 1

您无需调用tuner.get_state()and tuner.set_state()。在实例化 aTuner时，比如说 a RandomSearch，如示例中所述，

# While creating the tuner for the first time
tuner = RandomSearch(
    build_model,
    objective="val_accuracy",
    max_trials=3,
    executions_per_trial=2,
    directory="my_dir",
    project_name="helloworld",
)

您需要设置参数directory和project_name. 检查点保存在此目录中。您可以将此目录保存为 ZIP 文件并使用 files.download().

当您获得一个新的 Colab 实例时，解压缩该存档并恢复该my_dir目录。Tuner再次使用实例化一个，

# While loading the Tuner
tuner = RandomSearch(
    build_model,
    objective="val_accuracy",
    max_trials=3,
    executions_per_trial=2,
    directory="my_dir", # <----- Use the directory as you did earlier
    overwrite=False, # <------- 
    project_name="helloworld",
)

现在开始搜索，您会发现best params so far没有改变。此外，tuner.results_summary()返回所有搜索结果。

在此处查看Tuner该类的文档。