neural-network - 如何处理神经网络中的实数？

Question

我一直在玩神经网络。我从近似 XOR 函数开始，没有太多问题。但是，然后我攻击了逼近 sqrt 函数的问题。

问题是输入和输出可以是任何实数，而不仅仅是]0,1[中的数字

有没有办法在神经网络中处理它，以便它可以直接输出实数？

或者我是否必须将输入和输出数据标准化为 ]0,1[ 范围？这不是精度损失吗？

谢谢

Answer 1

您可以在输出层中选择另一个激活函数，例如 g(a) = a (identity)。但是，您应该有一个带有非线性激活函数（tanh、logistic）的隐藏层来逼近非线性函数。

Answer 2

最后，我发现最合理和通用的解决方案是对输入进行规范化，然后对输出进行非规范化。

用户必须设置输入/输出范围，然后一切正常。

这是大多数神经网络框架所做的。