neural-network - 在神经网络中选择学习率

Question

我已经建立了一个神经网络。在权重更新步骤中，平均误差 quadratiqur 直接转到0例如

mean error quadratic 1 =  1.2
mean error quadratic 1 = 0 
mean error quadratic 1 = 0 
mean error quadratic 1 = 0 
mean error quadratic 1 = 0 
mean error quadratic 1 = 0 ....................

我不知道是什么问题

我的神经网络的大小是：

输入 = 324 * 540 目标 = 10 * 540

当我尝试使用这种大小的其他数据时

输入 = 81 * 540 目标 = 10 * 540

有用。

也许问题出在学习率上？

Answer 1

这听起来像是平均误差二次计算器的问题。

nn 不能那么快收敛（如您所知），并且 nn 的问题可能会引发错误。例外情况是，如果 nn 碰巧四舍五入到给出与您的特定样本匹配的输出的数字（如果答案为 0 并且所有权重四舍五入为 0）。

基本上，我怀疑这是由于一小部分样本数据，或者是平均误差二次计算器的问题。

希望这可以帮助！