跟进这个问题:
使用 TPU 模式时如何从 Google Colaboratory 保存 Tensorflow 检查点文件?
使用 Tensorflow TPU 时保存检查点的官方方法是使用谷歌云服务。
如果对于那些不想使用 GCS 的人有解决方法,我正在工作。也许对于每个变量,执行 .eval(),保存变量。然后将保存变量设置为每个变量的“init”值。
我预见的一个主要问题是保存和加载优化器的参数。
对于 Keras,权重似乎确实从 TPU 保存到本地
INFO:tensorflow:将 TPU 权重复制到 CPU
所以我想也有一个通用的解决方法,而不使用 keras。