（3）梯度下降法Gradient Descent

梯度下降法 不是一個機器學習算法 是一種基於搜索的最優化方法 作用：最小化一個損失函數 梯度上升法：最大化一個效用函數   舉個栗子 直線方程：導數代表斜率 曲線方程：導數代表切線斜率 導數可以代表方向，對應J增大的方向。對於藍點，斜率爲負，西塔減少時J增加，西塔增加時J減少，我們想讓J減小，對應導數的負方向，因此前面需要加上負號。  （伊塔對應步長）-------（1） 用當前點的西塔加上（1）

>>阅读原文<<