-1

我仍然不明白什么是偏差以及何时激活神经元。所以现在我有一些问题。

人工神经元究竟是什么时候被激发的?当激活函数的结果小于 0 时,神经元是否也会触发,或者神经元是否只在正值时触发?

据我所知,偏差应该会改变激活函数。但是....这应该如何工作?我不明白什么?

带有偏差的标准计算如下所示。
将输入乘以权重并加上 Bias
所以我们有计算: x = a * w1 + b * w2 + c * w3 ..... + Bias
之后,应用激活函数。对于这个例子,我们使用激活函数,sigmoid 函数:y = 1 / (1 + e ^ (- x))。我们从之前的步骤中得到的 x 值。

但如果我这样做,那么就不会发生转变。它只影响神经元发射的强度/强度。

在其他视频中,我看到当使用偏差时,也可以触发 ReLU 函数中的负值(例如:权重 + 偏差 -> -0.5 + 1),但没有提到函数的偏移。

在另一个视频/博客中,我再次看到 Bias 还补充了激活功能。例如在 sigmoid 函数中:y = 1 / (1 + e ^ (- x + Bias))

我现在完全对偏见感到困惑。我希望你能帮助我。

4

1 回答 1

1

人工神经元(用于机器学习/人工神经网络)仅从生物神经元中获得松散的灵感。它们不像生物神经元那样“发射”。相反,它们从输入向量(从输入数字到输出数字的映射)计算标量输出。偏置调整相对于输入的“灵敏度”,即设置输出将位于的非线性函数区域。它与“触发”或“触发率”无关,因为 ANN 中没有触发。


要获得会触发的模拟神经元,您需要从机器学习转移到使用脉冲神经网络 (SNN) 的计算神经科学领域。这些模型生物神经元更准确,在这里,每个神经元都定义了放电时间,因此我们可以计算放电率等。

当一些研究人员将 ANN 视为 SNN 的模型时,这种混淆就出现了(假设触发率捕获了神经活动的所有重要方面)。然后,人工神经元的活动被解释为给定时间的“发射率”。这种解释对于使用/理解 ANN 来说既不是必需的,也没有一致认为它是合理的。

于 2018-11-19T09:12:54.643 回答