機器學習之--梯度下降算法

貌似機器學習最繞不過去的算法，是梯度下降算法。這裏專門捋一下。 1. 什麼是梯度 有知乎大神已經解釋的很不錯，這裏轉載並稍作修改，加上自己的看法。先給出鏈接，畢竟轉載要說明出處嘛。爲什麼梯度反方向是函數值局部下降最快的方向？ 因爲高等數學都忘光了，先從導數/偏倒數/方向導數，慢慢推出梯度吧。 1.1 導數 導數的幾何意義可能很多人都比較熟悉: 當函數定義域和取值都在實數域中的時候，導數可以表示函數

>>阅读原文<<