tensorflow - model.fit 中的 dropout 和 data.split

Question

众所周知，dropout 是一种帮助控制过拟合的机制。在 Keras 的训练过程中，我们可以通过监控验证损失进行在线交叉验证，并设置数据拆分为model.fit.

一般来说，我需要同时使用这两种机制吗？或者如果我设置数据拆分model.fit，那么我不需要使用 dropout。

Answer 1

Dropout 是一种正则化技术，即它可以防止网络快速过度拟合您的数据。验证损失只是为您提供网络何时过度拟合的指示。这是两件完全不同的事情，当你的模型过度拟合时，验证损失对你没有帮助，它只是向你表明它确实如此。

我想说，验证损失是训练期间有价值的信息，你永远不应该没有它。您是否需要正则化技术（例如噪声、dropout 或批量标准化）取决于您的网络如何学习。如果您发现它过拟合，那么您应该尝试使用正则化技术。