Andrew 機器學習課——多元梯度下降

先放上一張梯度下降的公式，其中，a爲學習率。 梯度下降的目的是不斷一小步一小步的將參數按照往最小值的方向移動，直到理論上爲最小值時，後面的偏導數爲0. 當參數只有一個時，偏導數就是這個圖像的切線的斜率隨着⊙1變化的值。如果放在兩個參數的圖像裏，就會類似成一個碗狀的圖形 再多參數的估計就畫不出來了。。。 代價函數和迭代輪數的圖像應該時這樣的。縱座標是代價函數值，橫座標是迭代的輪數。應該隨着輪數增加參

>>阅读原文<<