问题标签 [resuming-training]

使用以下方法训练新模型时：

假设 中指定的模型myPropertiesFile.prop已经存在。新模型是从头开始训练的，还是从现有参数开始训练的？我可以控制在这种情况下所做的事情吗？

一些上下文：

我想首先在一个非常大的不那么准确标记数据的语料库上训练标注器，然后继续在一个更小的准确数据语料库上训练（所谓的warm start）

我是 Python 新手，一直在使用 tensorflow 进行文本分类。我想知道这个文本分类模型是否可以用我将来可能获得的每一个新数据进行更新，这样我就不必从头开始训练模型。此外，有时随着时间的推移，课程的数量可能也会更多，因为我主要处理客户数据。是否可以通过使用现有的检查点来使用包含更多类的数据来更新这个现有的文本分类模型？

我正在训练 Keras 模型，保存它们，model.save()然后加载它们并恢复训练。

我想在每次训练后绘制整个训练历史，但model.fit_generator()只返回最后一次训练的历史。

我可以保存初始会话的历史并自己更新，但我想知道 Keras 中是否有管理训练历史的标准方法。

我按照以下 TensorFlow 教程在我自己的课程中重新训练 Inception V3。

https://www.tensorflow.org/hub/tutorials/image_retraining

到目前为止，一切都运行良好，我得到了可接受的最终测试精度。但是，我想通过增加训练步骤来改善结果。我将模型训练了 4000 步，我想将其增加到 8000 步。如果不重新开始训练，我怎么能做到这一点？

我已经阅读了很多关于保存和恢复检查点的文档，但我不明白如何使用它们。我应该修改retain.py 以允许继续培训吗？如果是，我该怎么做？

谢谢您的帮助！

有没有重新训练 SavedModel 的例子？在许多地方，他们声称这是可能的，而不是使用检查点，但没有提供示例。当我尝试执行时，模型的变量保持不变：

上面的代码训练模型，将每个交互存储在模型中并打印相关的错误。该代码有一个错误正在改善的输出：

2773.6885

291.35968

263.40912

255.27612

当我们再次加载它并尝试训练它时，错误保持不变：

输出始终是初始训练的错误：

255.27612

255.27612

255.27612

255.27612

我的 keras 模板正在为我训练的每个最佳时间生成一个检查点。

然而，我的互联网掉线了，当加载我的最后一个检查点并从上一季重新开始训练（使用 initial_epoch）时，准确率从 89.1（加载的模型值）下降到新训练的第一季的 83.6。这是恢复（重新开始）训练时的正常行为吗？因为我的网络掉的时候已经是第30个赛季了，准确率没有下降，也没有明显的提升，也没有产生任何新的checkpoint，逼得我回了几个epoch。

在此先感谢您的帮助。

我想从预训练的权重开始用 Keras 训练一个模型（例如，如果已经完成了 50 个 epoch，我想再训练 50 个 epoch，那么第二次训练可以从第一次训练的权重开始）。我如何必须在 fit 生成器中包含以前的 .h5 文件和权重？

在这个讨论中（https://github.com/keras-team/keras/issues/2378），我没有找到答案。

我正在尝试加载从https://fasttext.cc/docs/en/crawl-vectors.html下载的西班牙语 fasttext .bin 模型，并继续使用我感兴趣的特定领域的新句子对其进行训练。

系统：Anaconda、Jupyter Notebook、Python 3.6、升级后的 Gensim

我的代码（玩具示例）：

单词的旧向量和新向量是相等的，它仍然不在词汇表中，所以模型什么也没学到。我究竟做错了什么？

我正在使用 keras（带有 Tensorflow 后端）训练一个模型，它的损失函数由我定义（在代码中命名为 custom_loss），我在训练期间以最佳精度保存模型：

我想在一些时期后停止训练并再次重新加载模型以从该保存点恢复训练：

但是，在加载模型后，我收到这个错误，说 custom_loss 是未知的；问题是什么？custom_loss 在主类中定义：

我正在做自动分割，周末我正在训练一个模型，然后电源就坏了。我已经训练了我的模型 50 多个小时，并使用以下行每 5 个 epoch 保存我的模型：

我正在使用以下行加载保存的模型：

我已经包含了我的所有数据，这些数据将我的训练数据拆分train_x为扫描和train_y标签。当我运行该行时：

我得到错误：