backpropagation - 使用验证集在神经网络中提前停止

Question

我想使用早期停止方法来避免神经网络过度拟合。我已将我的数据集划分为 60-20-20

60 - 训练 20 - 验证集 20 - 测试集

我在实施提前停止时有疑问。

1. 我们使用训练集更新一个时期的权重。我们使用训练集得到了网络错误。
2. 我们需要计算验证集的误差。我们应该平均每个验证实例的所有错误吗？例如，假设我有 200 个验证实例。由于我没有更新权重，我将为每个实例计算误差。那么我们是否应该对所有验证实例进行平均并将其报告为验证错误？

谢谢，阿蒂什

Answer 1

是的，最常用的误差度量是均方误差，它是每个训练/验证样本的平方误差的平均值。

Answer 2

是的，正确，您必须找出验证集上的错误增加而不是减少的点。