deep-learning - 写论文时如何判断cnn的准确性

Question

我想写一篇关于卷积神经网络的论文，我的cnn模型验证数据集的准确率从98波动到99，测试数据集的准确率每次都不一样。所以我不确定我应该在哪个时间写准确率，实验中的 epoch 总数是 6000 次。我可以选择最后一个epoch中10个epoch的最高准确率作为论文的准确率，或者我应该怎么做？非常感谢！

Answer 1

10 次测量不足以推导具有重要属性的静态属性...您可以列出所有 10 项或给出low、high、avg和median，这些应该足以收缩您的网络 acc 并将其与其他网络进行比较

Answer 2

我也有同样的问题。这些是我一直在使用的方法：

定期降低学习率

定期降低学习率不仅可以提高验证准确度，还可以减少训练结束时准确度的方差。

例如，将学习率除以 5

Epochs        Learning rate
0-4000        5e-4
4000-5000     1e-4
5000-6000     2e-5
etc

您也可以自动监控它。例如，如果最后 N 个批次的损失没有显着减少，则降低学习率并重新开始计数。在 M 这样减少后，停止训练。

重复实验

您获得的准确度将取决于创建网络时分配的初始随机权重。因此，即使使用学习率降低，您仍然会得到不同的结果。重复实验并取平均值。这需要很长时间，具体取决于您的数据集。