3

在 Python 中进行梯度下降的一种方法是自己编写代码。但是,考虑到它在机器学习中的流行程度,我想知道是否有一个 Python 库可以导入,它给了我一个梯度下降方法(最好是小批量梯度下降,因为它通常比批量和随机梯度下降更好,但如果我错了,请纠正我)。

我检查了 NumPy 和 SciPy,但找不到任何东西。我没有使用 TensorFlow 的经验,但查看了他们的在线 API。我找到了 tf.train.GradientDescentOptimizer,但没有参数可以让我选择批量大小,所以我对它的实际含义相当模糊。

对不起,如果我听起来很幼稚。我正在自学很多这样的东西。

4

1 回答 1

4

显而易见,梯度下降正在优化一个函数。当您使用某个库中的梯度下降实现时,您需要使用该库的构造来指定函数。例如,函数在 TensorFlow 中表示为计算图。您不能只使用一些纯 Python 函数并要求 TensorFlow 的梯度下降优化器对其进行优化。

如果您的用例允许您使用 TensorFlow 计算图(以及所有相关的机器——如何运行函数、计算其梯度),那tf.train.*Optimizer将是一个显而易见的选择。否则,它是无法使用的。

如果你需要一些简单的东西,https://github.com/HIPS/autograd可能是所有流行库中的最佳选择。它的优化器可以在这里找到:https ://github.com/HIPS/autograd/blob/master/autograd/misc/optimizers.py

于 2018-05-09T00:09:20.797 回答