“步长”乘“导数”

Question

请问老师，这个“步长”乘以“导数”表示的是J的变化值吗？

Answer 1

liuyubobobo 2018-05-06 18:35:53

导数d(J)/d(theta)，描述的是theta产生单位变化的时候，相应的J的变化。在这里，我们主要关注这个导数的符号。这个导数的符号，表示的函数J增大的方向（导数为正，表示theta向正方向移动，J增大；导数为负，表示theta向负方向移动，J增大。）由于我们要找到J的最小值，所以我们的theta向-d(J)/d(theta)的方向移动。而移动的大小，由eta进行调节。

把这些逻辑合在一起，-eta*dJ/d(tehta)，是我们的theta的改变量，这个改变量，在让J减小。

后续结合我们写的程序，可能会理解的更深刻。如果有必要，建议再看一遍这一章第一小节对于这个图示的介绍：）

加油！

• 提问者 zxytxwdy #1

  非常感谢！

• 提问者 zxytxwdy #2

  那这一章第2节中的代码  theta = theta - eta * gradient 这个式子不太理解。
  为什么新的theta值等于前一个theta减J的变化值？

• liuyubobobo 回复 提问者 zxytxwdy #3

  我对原答案进行了扩充：）

点开查看后面6条评论