问题标签 [dropout]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
machine-learning - 如何向 keras Retina 网络添加 dropout 技术?
我正在使用 RetinaNet NN 模型进行对象检测,但遇到过拟合问题。解决方案之一是添加“Dropout”。我在这里使用 keras 代码
我想将 Dropout 添加到最后一层,但我不知道如何添加。
谁能帮助我应该更改哪个文件?如何更改?
tensorflow - 当我使用 train_on_batch 训练模型时,如何告诉 Keras 学习阶段?
我的模型中有 dropout 层,所以我希望 keras 找出训练和测试阶段以运行或忽略 dropout 层,我发现 K.set_learning_phase 可以帮我这个忙,但是我如何将它添加到训练和测试过程中? 我的代码是这样的:
任何建议将不胜感激。谢谢。
machine-learning - 从头开始实施 dropout
此代码尝试利用 dropout 的自定义实现:
自定义 dropout 实现为:
看来我错误地实现了 dropout 功能?:
如何修改以正确利用 dropout ?
这些帖子对于达到这一点很有用:
Hinton 在 3 行 Python 中的 Dropout: https ://iamtrask.github.io/2015/07/28/dropout/
制作自定义 Dropout 函数:https ://discuss.pytorch.org/t/making-a-custom-dropout-function/14053/2
machine-learning - 在 Keras 中,dropout 应用于哪个权重?
我目前正在尝试找到一种方法来检索给定层“忽略”哪些权重(尤其是当我在测试阶段使用“训练”标志使用 dropout 时)。有没有一种简单的方法可以找到它,或者我有义务创建一个自定义 dropout 层?
keras - 如何在 keras 上的变分 dropout LSTM 层上使用 MC Dropout?
我目前正在尝试使用 Keras(tensorflow 后端)建立一个(LSTM)循环神经网络。我想使用带有 MC Dropout 的变分 dropout。我相信变分 dropout 已经通过 LSTM 层的选项“recurrent_dropout”实现,但我没有找到任何方法来设置“training”标志以像经典的 Dropout 层那样设置为 true。
python - 在 keras 中实现反向 dropout 层的正确方法是什么?
我在这里阅读了很多关于此的数学解释,但我一无所知。谁能提供一个简单的代码示例?
我正在寻找一个 keras 顺序模型示例。
感谢所有的答案。
keras - 输入共享 dropout 层
我想将相同的 dropout 应用于两个相同形状的输入张量。一种方法是加入输入,应用 dropout,然后再次拆分张量。这样,每次迭代中的每个输入都会删除相同的特征。
代码似乎工作正常,模型正在训练。谁能确认我所做的正是我所期望的?我不知道比较张量的方法,否则我可以将 dropout 更改为 0 并将输出与输入进行比较。
neural-network - 退出神经网络的回归任务
我有一个用于回归预测的神经网络意味着输出是 0 到 1 范围内的实数值。
我对所有层都使用了 drop out,错误突然增加并且从未收敛。
退出可用于回归任务吗?因为如果我们忽略一些节点,最后一层的节点会更少,预测值肯定会与实际值相差很大。所以反向传播的误差会很大,模型会被破坏。那么为什么我们要在神经网络中使用 dropout 进行回归任务呢?
python - 张量流中的自定义图层
我正在尝试对 tensorflow 中的内置 dropout 函数进行一些更改。这样做的最佳程序是什么?
我想对正向和反向传播步骤进行一些更改。在Tensorflow 实现中,我只能找到正向传递而不是反向传递。我想修改前向和后向传球。
tensorflow - Dropout 版本的问题 Google Colab
我正在尝试添加一个 dropout 层,我收到了这个警告
我不明白我使用的是 rate 还是 keep_prob。我在dropout层的实现如下:
我使用 tensorflow 后端导入 keras。版本是:
Keras 2.2.4
张量流 1.13.1
如何检查 0.20 是否用作 rate 或 keep_prob?
提前致谢