deep-learning - Mxnet MNIST 训练示例返回几乎恒定的 rmse

Question

我通过添加 rmse 损失对 fit.py mxnet python 示例文件（图像分类）进行了一些修改：

# evaluation metrices
eval_metrics = ['accuracy']
eval_metrics.append('rmse') 

然后运行 ​​MNIST 训练示例，可以观察到 rmse 一直在 5.2 左右，而准确率上升到 99% 左右。

我们不应该观察到 RMSE 的下降吗？

非常感谢 AL

Answer 1

均方根误差 (RMSE) 是用于回归问题的度量。在回归问题中，网络正在预测一个实数，并且该预测的质量可以作为预测值和期望值之间的数值差异的函数来衡量。

在分类中，网络为数据分配标签，而 RMSE 不是计算预测标签质量的合适度量，因为预测不是实数。交叉熵误差是分类问题的更合适的度量。

在这种情况下，您可以像这样使用交叉熵误差：

eval_metrics = ['ce']
eval_metrics.append(mx.metric.create('ce'))