tensorflow - TensorFlow 中具有动量的 SGD

Question

在 Caffe 中，SGD 求解器有一个动量参数（链接）。在 TensorFlow 中，我看到它tf.train.GradientDescentOptimizer没有明确的动量参数。但是，我可以看到有tf.train.MomentumOptimizer优化器。它是否相当于带有动量优化器的 Caffe SGD？

Answer 1

是的。tf.train.MomentumOptimizer= 新元 + 动量

Answer 2

tf.keras.optimizers.SGD有一个momentum参数。通过使用 也可以应用 Nesterov 动量nesterov=True。