neural-network - 具有 0,0,0 的二元特征，在 NN 中总是返回 0.5

Question

假设我们有三列，具有二进制特征 (0,1)。数据集中的一行是 0,0,0，标签为 0。

我面临的问题是：

在为该行分配权重并激活 sigmoid 函数时，我将始终收到 0.5，因为任何权重为 0 的零数组乘积。

如何克服这个问题？

Answer 1

除了乘以权重矩阵之外，您还可以添加一个偏差（这通常在神经网络中完成），因此您不一定会得到一个零向量。您还可以添加更多隐藏层（但正如我所说，即使添加偏置向量也可以解决您提到的问题）。