5

语境:

我正在实施高斯伯努利 RBM,它类似于流行的 RBM,但具有实值可见单位。

确实,两者对隐藏值进行采样的过程p(h=1|v)是相同的,即

在此处输入图像描述

问题:

我的问题在于编码(使用 Python)p(v|h),也就是说,

在此处输入图像描述

我对N()的工作原理有点困惑。我是否只需使用数据的标准偏差将高斯噪声添加到b + sigma * W.dot(h)?

先感谢您。

4

1 回答 1

8

符号X ~ N (μ, σ²) 表示X服从均值 μ 和方差 σ² 的正态分布,因此在 RBM 训练例程中,应从这样的分布中采样v 。用 NumPy 术语来说,就是

v = sigma * np.random.randn(v_size) + b + sigma * W.dot(h)

scipy.stats.norm用于更好的可读代码。

于 2013-12-19T23:29:56.670 回答