neural-network - 如何将 RNN 转换为回归网络？

Question

如果输出是一个tanh函数，那么我会得到一个介于 -1 和 1 之间的数字。

如何将输出转换为我的 y 值的比例（现在恰好在 15 左右，但会因数据而异）？

或者我是否仅限于在某种已知范围内变化的功能......？

Answer 1

只需删除 tanh，您的输出将是一个不受限制的数字。您的误差函数应该是平方误差。

如果您的框架没有自动完成，您可能必须更改反向道具的梯度计算。

编辑添加：您几乎肯定希望在循环连接之间保留 tanh（或其他一些非线性），因此仅在输出连接中删除它。

Answer 2

在大多数用于分类的 RNN 中，大多数人在其 LSTM 或 tanh 层之上使用 softmax 层，因此我认为您可以仅用线性输出层替换 softmax。这就是一些人对常规神经网络和卷积神经网络所做的事情。你仍然会有来自隐藏层的非线性，但你的输出不会被限制在某个范围内，例如 -1 和 1。成本函数可能是像 larspars 提到的平方误差。