问题标签 [sigmoid]

我在 Python 中编写了以下函数来计算标量、向量或矩阵的 sigmoid 函数。

对于相对较大的 z 正值，e^-z返回接近零 (0) 的非常小的值，因此 sig 的值四舍五入为 1。我的最终目标是确定逻辑回归算法的成本函数。由于 sigmoid 正好返回 1，因此log(1-1)返回 'nan'。如何解决问题，使我的 sigmoid() 函数返回正确的值而不是舍入e^-z为 0？

当我使用均值和标准差对输入特征进行归一化时，效果很好。但是有没有办法让它在更大的 z 值下工作？

另外，我在 Matlab 上尝试了同样的方法，它在没有标准化的情况下工作得很好。

我正在思考如何使用 Sigmoid 在自定义范围内缩放变量，然后逆向缩放。

例如，下面的 Python 脚本在 0 和顶部之间缩放变量 x，然后反转该缩放。

我想做的是也设置底部，以便 x 在底部顶部之间缩放，例如（10-100）。然后也得到逆。

我正在 Andrew Ng 在 coursera 上的机器学习课程中做第 4 周的作业。我应该计算正则化逻辑回归的成本函数和梯度。这是我写的：

我收到此错误：

我无法理解我哪里出错了，因为我在第 3 周遇到了同样的问题，我必须计算成本函数和梯度，并且上面的代码有效。

我是新手，我正在尝试用 ReLU 替换以下简单 NN 中的 sigmoid 激活函数。我可以这样做吗？我试过替换 sigmoid 函数，但它不起作用。输出应该是与门（如果输入（0,0）-> 输出 0）。

我有一个由 18260 个输入字段和 4 个输出组成的大数据集。我正在使用 Keras 和 Tensorflow 构建一个可以检测可能输出的神经网络。

sigmoid但是我尝试了很多解决方案，但除非我在除第一个模型层之外的所有模型层中使用激活函数，否则准确率没有超过 55% ，如下所示：

在所有层中使用sigmoid激活正确吗？如上所示，使用 sigmoid 时准确率达到 99.9%。所以我想知道模型实现是否有问题。

我正在尝试重复一项研究（https://www.sciencedirect.com/science/article/pii/S0957417410011711）

在研究中，他们使用了两种不同的函数，一种用于隐藏层，一种用于输出。在第 5314 页上，他们写道“在隐藏层上选择了一个正切 sigmoid 传递函数。另一方面，在输出层上使用了一个逻辑 sigmoid 传递函数。”

我在 R 中使用包“neuralnet”。

为了对隐藏层有一个切线 sigmoid 传递函数，我可以使用以下代码：

但这会产生一个问题，我要么 A) 对输出层具有相同的功能。

或者 B）我使用linear.output = Twhich 给我一个线性输出，但不是一个 sigmoid 函数。有什么方法可以让我为输出层设置另一个功能吗？

同样：如果我使用act.fct = 'logistic'，我将在整个网络中获得一个逻辑 sigmoid 传递函数，为输出层提供正确的函数，但为隐藏层提供错误的函数。这又只带我走了一半。

我有一个粗略的替代方法来解决这个问题，我不想使用这种方法，应该可以使用err.fct =并创建一个自定义的误差函数，该函数使用线性输出并通过所需的 sigmoid 函数运行它，用于输出。compute然后我通过 sigmoid 函数分别运行命令的输出。但这似乎很麻烦，很可能我会在途中的某个地方搞砸。对此有任何适当/更好的解决方案吗？

拜托，你能帮帮我吗？我已经用 tensorflow 训练了一个神经网络模型。当我运行激活操作（sigmoid）来预测测试集的值时，它会以与 feed_dict 不同的顺序生成值。如何以与 feed_dict 相同的顺序生成预测？

这是我的模型代码：

这是我的预测代码：

所以我有这个环境和奖励设计，我专门设计为接近 -1、0 和 1，所以（据我所知）sigmoid 不会饱和，而且我用 ca -1 保持奖励设计相当简单和1个最终目标的奖励。

所以我使用 DDPG 并且我使用 250 个神经元（变化，测试很多，但现在让我们坚持这个数字）作为我的隐藏层。Lr = 0.001，内存大小 = 300，Gamma = 0.9，Epsilon = 0.18。

所以这是我的演员网络：

这是我的评论家网络

如前所述，我的奖励在 -1 和 1 左右，我的状态如下所示（部分也是热编码的）：

我的 td 误差非常低，因为我（认为原因我）预先处理了所有内容，导致值的移动量很低。有人知道为什么我的 sigmoid 会饱和，是我的网络不好还是我的状态不好？我真的很想知道，因为到目前为止我尝试的一切都没有成功。它要么饱和到 1 个动作（3 = action_bound）到 0.999，其余的在 0 左右，要么收敛到全部 0.999，而且我运行了一次，一切都变为 0。目前在最新的 Python 和 Tensorflow 版本中进行编码。

提前感谢您的回答，这对我来说意义重大！

~一月

PS：如果我错过了任何需要的信息，请告诉我。

我有一个简单的问题。我知道激活函数的主要目的是将节点的输入信号转换为输出信号。该输出信号将用作下一层的输入。但我不知道激活函数（如 sigmoid）在分类问题中的作用方式。我所知道的只是关于转换。任何人都可以向我澄清这一点吗？谢谢！

提前谢谢！我正在尝试在一些数据上拟合 sigmoid 曲线，下面是我的代码

这现在显示了下面的图表，它不是很合适的曲线是底部的红色曲线

有哪些可能的解决方案？

我也对在这组数据上拟合逻辑曲线的其他方法持开放态度

再次感谢！