我正在熟悉用于构建深度学习模型的 Trax 库,一个我找不到答案的问题是如何在模型训练完成后从“训练”模式切换到“评估”模式。
考虑这个带有变压器的例子(从https://github.com/google/trax#1-run-a-pre-trained-transformer修改)
import trax
model = trax.models.Transformer(
input_vocab_size=33300,
d_model=512, d_ff=2048,
n_heads=8, n_encoder_layers=6, n_decoder_layers=6,
max_len=2048, mode='train')
# do the training
训练结束后,如何将模式切换为“预测”?
想到的一个想法(遵循相同的示例)是训练模型,然后保存它,重新初始化模型,但这次使用mode='train'
然后通过运行加载权重model.init_from_file(file)
。
有没有办法直接做到这一点而不必重新初始化模型?