问题标签 [dropout]

我正在使用 RetinaNet NN 模型进行对象检测，但遇到过拟合问题。解决方案之一是添加“Dropout”。我在这里使用 keras 代码

我想将 Dropout 添加到最后一层，但我不知道如何添加。

谁能帮助我应该更改哪个文件？如何更改？

我的模型中有 dropout 层，所以我希望 keras 找出训练和测试阶段以运行或忽略 dropout 层，我发现 K.set_learning_phase 可以帮我这个忙，但是我如何将它添加到训练和测试过程中? 我的代码是这样的：

任何建议将不胜感激。谢谢。

此代码尝试利用 dropout 的自定义实现：

自定义 dropout 实现为：

看来我错误地实现了 dropout 功能？：

如何修改以正确利用 dropout ？

这些帖子对于达到这一点很有用：

Hinton 在 3 行 Python 中的 Dropout： https ://iamtrask.github.io/2015/07/28/dropout/

制作自定义 Dropout 函数：https ://discuss.pytorch.org/t/making-a-custom-dropout-function/14053/2

我目前正在尝试找到一种方法来检索给定层“忽略”哪些权重（尤其是当我在测试阶段使用“训练”标志使用 dropout 时）。有没有一种简单的方法可以找到它，或者我有义务创建一个自定义 dropout 层？

我目前正在尝试使用 Keras（tensorflow 后端）建立一个（LSTM）循环神经网络。我想使用带有 MC Dropout 的变分 dropout。我相信变分 dropout 已经通过 LSTM 层的选项“recurrent_dropout”实现，但我没有找到任何方法来设置“training”标志以像经典的 Dropout 层那样设置为 true。

我在这里阅读了很多关于此的数学解释，但我一无所知。谁能提供一个简单的代码示例？

我正在寻找一个 keras 顺序模型示例。

感谢所有的答案。

我想将相同的 dropout 应用于两个相同形状的输入张量。一种方法是加入输入，应用 dropout，然后再次拆分张量。这样，每次迭代中的每个输入都会删除相同的特征。

代码似乎工作正常，模型正在训练。谁能确认我所做的正是我所期望的？我不知道比较张量的方法，否则我可以将 dropout 更改为 0 并将输出与输入进行比较。

我有一个用于回归预测的神经网络意味着输出是 0 到 1 范围内的实数值。

我对所有层都使用了 drop out，错误突然增加并且从未收敛。

退出可用于回归任务吗？因为如果我们忽略一些节点，最后一层的节点会更少，预测值肯定会与实际值相差很大。所以反向传播的误差会很大，模型会被破坏。那么为什么我们要在神经网络中使用 dropout 进行回归任务呢？

我正在尝试对 tensorflow 中的内置 dropout 函数进行一些更改。这样做的最佳程序是什么？

我想对正向和反向传播步骤进行一些更改。在Tensorflow 实现中，我只能找到正向传递而不是反向传递。我想修改前向和后向传球。

我正在尝试添加一个 dropout 层，我收到了这个警告

我不明白我使用的是 rate 还是 keep_prob。我在dropout层的实现如下：

我使用 tensorflow 后端导入 keras。版本是：

Keras 2.2.4

张量流 1.13.1

如何检查 0.20 是否用作 rate 或 keep_prob？

提前致谢