我知道如果我们在 RBM 中处理整流器、连续输入等，我们需要使用二进制以外的不同类型的隐藏单元。现在假设 RBM 被用作监督深度学习的起点，那么 tanh 激活呢？我们可以拟合二元 sigmoid RBM 并使用训练的权重作为 tanh 激活函数神经网络的起点吗？本质上，tanh 是二进制 RBM 中重新缩放的 sigm，我想它是可行的吗？如果是这样，具体如何？
谢谢
我知道如果我们在 RBM 中处理整流器、连续输入等，我们需要使用二进制以外的不同类型的隐藏单元。现在假设 RBM 被用作监督深度学习的起点，那么 tanh 激活呢？我们可以拟合二元 sigmoid RBM 并使用训练的权重作为 tanh 激活函数神经网络的起点吗？本质上，tanh 是二进制 RBM 中重新缩放的 sigm，我想它是可行的吗？如果是这样，具体如何？
谢谢