deep-learning - cnn 的学习率曲线倒退

Question

我正在使用 MNIST 数据集识别数字 3 和 7。我正在使用 fastai 库中的 cnn_learner() 函数。当我绘制学习率时，曲线在 X 轴上的某个值后开始向后移动。有人可以解释一下它是什么意思吗？

Answer 1

曲线的行为是正常的，就像看起来一样奇怪。该曲线表示关于损失的多个学习率值。它可以帮助您确定在什么学习率值下，您的损失是最小还是最大。

这是一种为您的模型找到最佳学习率的方法。您必须选择一个可以减少损失的值。但是，如果您仅仅认为损失最小就选择了一个太小的学习率值，那么您的模型将训练得非常慢。

您可以使用以下链接进一步了解如何为您的模型找到最佳学习率。

学习率查找器