当我研究神经网络时，数学推导总是在隐藏层和输出层使用sigma函数。但是 Mathworks 中的 NNtool 框建议用户在隐藏层使用 sigma，在输出层使用 pureline。谁能告诉我为什么输出层可以是纯线？我只是无法理解此激活功能的原因。
http://imgur.com/9V2HIlF // 传统的反向传播公式
如公式，如果我使用纯函数，结果会很不一样。但是我没有看到输出激活函数是纯线的反向传播的任何推导。我只是想知道是否有任何理由使用 prureline，而它与传统的反向传播不同。
The aim of using the sigmoid function as the activation function in an artificial neural network is to limit the range of outputs. If that's been used at the hidden layer, the number of hidden layer nodes is finite, and the gain of the output layer nodes is bounded, then the output layer nodes will have bounded output.
But, it is just a suggestion. You could still use the sigmoid in the output layer.