2

如图所示:

在此处输入图像描述

有人可以帮我理解梯度下降算法中 delta 的确切含义吗?

4

2 回答 2

4

这是关于 theta_0 的偏导数。

于 2011-10-27T19:24:35.060 回答
2

该术语是关于的导数theta 0

  • 标记theta为 X 轴上的坐标(设为 A)
  • 在Y轴上找到对应的坐标(设B)所以该点属于函数J
  • 在点 (A, B) 处绘制该函数的切线
  • 导数是这条切线的斜率。

在此处输入图像描述

导数用于控制代价函数(J函数)最小化的两个方面:

  • 方向 - 斜率符号告诉您应该沿 X 轴移动的方向以收敛 J
  • rate - 斜率的大小告诉你应该移动多快
于 2011-10-27T19:36:04.603 回答