对于高维数据，GAN 有时会变得非常不稳定。我们可以用异步方式训练 GAN 吗？就像我们有一个主生成器和判别器。但我们实际上使用来自多个从属生成器和鉴别器的梯度异步更新它。
问问题
302 次
1 回答
1
您是否正在考虑使用异步方法进行 GAN 训练，类似于在 A3C 中使用异步更新的方式？
我猜想 RL 中异步方法的动机与你想用 GAN 中的异步方法解决的问题完全不同。
由于数据的非平稳性（即连续更新之间的高相关性），RL 可能不稳定（没有异步方法）。使用异步方法解决这个问题是有道理的。
GAN 不稳定，因为在求解目标函数时采用了优化方法（例如 mini-max）。而最近的 GAN 变体（例如渐进式 GAN）是对原始 GAN 的重大改进。就个人而言，我认为“模式崩溃”比稳定性更紧迫。
所以不确定异步方法是否是您正在寻找解决 GAN 稳定性问题的答案。也许更好的优化方法（例如优化过程中的稳定性惩罚）可能是解决这个问题的更好方法？
关于 GAN 的收敛性和稳定性的参考资料
于 2018-08-05T23:06:35.660 回答