6

我昨天发布了一个问题，是关于我在 XOR 运算符的反向传播神经网络中遇到的问题。我做了更多的工作，并意识到这可能与没有偏置神经元有关。

我的问题是，一般偏置神经元的作用是什么，它在识别 XOR 算子的反向传播神经网络中的作用是什么？是否可以创建一个没有偏置神经元的神经元？

4

1 回答 1

6

可以创建一个没有偏置神经元的神经网络......它可以正常工作，但有关更多信息，我建议您查看这个问题的答案：

偏差在神经网络中的作用

更新： 偏置神经元在试图求解模型 XOR 的神经网络中的作用是最小化神经网络的大小。通常，对于“原始”（不确定这是否是正确的术语）逻辑函数，例如AND、OR、NAND等，您正在尝试创建一个具有 2 个输入神经元、2 个隐藏神经元和 1 个输出神经元的神经网络。这是无法做到的，XOR因为可以建模 an 的最简单方法XOR是使用两个NANDs：

在此处输入图像描述

您可以考虑A，B作为您的输入神经元，中间的门是您的“偏置”神经元，后面的两个门是您的“隐藏”神经元，最后是输出神经元。您可以在没有偏置神经元的情况下求解XOR，但这需要您将隐藏神经元的数量增加到至少 3 个隐藏神经元。在这种情况下，第三个神经元本质上是一个偏置神经元。这是另一个讨论偏置神经元的问题XOR：XOR problem solvable with 2x2x1 neural network without bias?

于 2011-11-07T16:41:57.417 回答