我仍然不明白什么是偏差以及何时激活神经元。所以现在我有一些问题。
人工神经元究竟是什么时候被激发的?当激活函数的结果小于 0 时,神经元是否也会触发,或者神经元是否只在正值时触发?
据我所知,偏差应该会改变激活函数。但是....这应该如何工作?我不明白什么?
带有偏差的标准计算如下所示。
将输入乘以权重并加上 Bias
所以我们有计算: x = a * w1 + b * w2 + c * w3 ..... + Bias
之后,应用激活函数。对于这个例子,我们使用激活函数,sigmoid 函数:y = 1 / (1 + e ^ (- x))。我们从之前的步骤中得到的 x 值。
但如果我这样做,那么就不会发生转变。它只影响神经元发射的强度/强度。
在其他视频中,我看到当使用偏差时,也可以触发 ReLU 函数中的负值(例如:权重 + 偏差 -> -0.5 + 1),但没有提到函数的偏移。
在另一个视频/博客中,我再次看到 Bias 还补充了激活功能。例如在 sigmoid 函数中:y = 1 / (1 + e ^ (- x + Bias))
我现在完全对偏见感到困惑。我希望你能帮助我。