问题标签 [dbn]

在深度信念网络中，我使用 CD-1 对网络进行了预训练。我存储了权重和偏差。现在我可以运行一个带有 dropout 的有监督的 mlp 代码，并将权重初始化为从预训练中获得的权重。它是否等同于使用 dropout 微调实现的 DBN？

我需要为神经元信号实现分类应用程序。第一步，我需要训练一个去噪自动编码器 (DAE) 层进行信号清理，然后将输出馈送到 DBN 网络进行分类。我试图在 Tensorflow 中找到对这些类型的支持，但我发现的只是两个模型 CNN 和 RNN。有没有人知道使用 Tensorflow 对这两个模型进行健壮的实现？

我正在使用 DBN 分类代码。我有一个输出值，它是一个整数（输出整数的值可以是 110,12 等任何值）。所以基本上我试图通过设置它的no_of_outputs = 1来使用分类代码来预测一些东西。但我认为 no_of_output=1 通过给出错误来弄乱代码： ValueError: y_i value out of bounds 导致错误的应用节点： CrossentropySoftmaxArgmax1HotWithBias(_dot22.0, b, Elemwise{Cast{int32}}.0) 输入形状：[(10, 2), (2,), (10,)] 输入步幅：[(16, 8), (8,), (4,)] 输入类型：[TensorType(float64, matrix), TensorType(float64, vector), TensorType(int32, vector)] 使用 Theano 标志 'exception_verbosity=high' 来调试此应用节点。

请帮我解决它。

我正在学习深度信念网络和受限玻尔兹曼机。

1. 在训练 DBN（CD-1、贪心、逐层）时，第二个、第三个和第 n 个 RBM 的输入应该是随机二进制（0 或 1）而不是概率？

2. 至于 DBN 中的推理过程，隐藏单元也是随机二进制而不是概率吗？sigmd{Σ(W*V+b)} 可以用作上层的输入吗？或者我是否还需要一个随机数生成器来获得 h 个单位的随机二进制结果，然后使用这些 h 值作为上层的输入？

有人可以向我解释吗？

我正在使用 DBN 的这个实现。 http://deeplearning.net/tutorial/code/DBN.py 我正在使用 ecg 数据来训练每行包含 100 个浮点值（以毫伏为单位）的模型。当我运行这个实现时，预训练成本继续增加，我不明白为什么。我附上了示例输入数据文件和 DBN 的代码，其中我修改了输入和输出单元的数量和批量大小。我已经修改了logistic_sgd.py 中的“load_data”代码，所以我也附上了那个文件。这是场景：

为什么会这样？我哪里错了？

链接到代码和数据文件： https ://drive.google.com/open?id=0B02Uz-muAJWWVktyaDFOekU5Ulk

就在最近，我想知道为什么似乎没有人对受限玻尔兹曼机 (RBM) 和卷积 RBM (CRBM) 模型使用去噪训练。

这对于自动编码器（去噪自动编码器 (DAE) 和 Stacked-DAE (SDAE)）非常强大。

我试图通过简单地破坏每个时期的输入来对我的代码应用去噪，这与我的自动编码器上所做的相同。对于自动编码器来说，它工作得很好，但对于 RBM 来说却很失败，这使得学习更加不稳定，学习到的特征也变得更糟。这仅仅是因为已经尝试处理噪声的 RBM 的随机性吗？

人们为什么不使用 RBM 和 CRBM 去噪训练是有原因的吗？

谢谢

在我的数据中，我有一列包含负值和正值。这里负值表示缺少多少东西，正值表示意外的额外东西，0 表示中性，这始终是预期值。那么如何使用这列数据作为深度信念网络的输入。我可以输入负数作为深度信念网络的输入吗？

我正在实现一个带整流线性单元的受限玻尔兹曼机。我还没有在任何地方找到一个简单的实现，所以想问一下是否有人会验证设计。

这是CD1的计算：

这就是我计算梯度的方式：

我的问题是，如何将这些分层到 DBN 中？

目的是构建一个自动编码器，但我不知道如何处理可见单位也是第二层中的实数变量。

我正在使用 Masayuki Tanaka 在以下链接https://www.mathworks.com/matlabcentral/fileexchange/42853-deep-neural-network开发的深度神经网络工具箱。

现在我正在尝试使用深度信念网络来进行函数逼近。但结果不是很好。以下是我的脚本代码。有谁可以弄清楚可以修改哪个部分以改善拟合结果？

DBN学习结果：

我正在关注本教程关于使用深度信念网络https://www.pyimagesearch.com/2014/09/22/getting-started-deep-learning-python/然后我决定附加我的外部数据集并收到以下错误：

这是我使用的代码：

我的数据集的结构如下：

如您所见，我的数据集具有“数据”属性，其中包含要用于训练的数据

先感谢您！