caffe - 将值缩放到 [0,1] 会影响 CNN 学习过程吗？

Question

我正在使用 CNN 进行语义分割。

我已将图像的值标准化为范围 [0,1]。我已经多次训练我的网络，学习曲线似乎学习得很好，但是，输出总是黑色图像。我的问题是缩放真的会影响学习还是像素值的范围应该保持在 0-255 范围内？

非常感谢。

Answer 1

一般来说，它不影响训练。在许多情况下，[0 1] 实际上比 [0 255] 更适合训练 DNN，因为如果自 w' 以来第一层不使用较低的学习率，后者可能会在学习第一层权重时导致一些数值问题= y' * x，其中'表示导数。