梯度下降 from 吳恩達的機器學習

梯度下降：用來求函數最小值的算法，使用梯度下降算法來求出代價函數的最小值。 梯度下降思想是：開始時我們隨機選擇一個參數的組合 ，計算代價函數，然後我們尋找下一個能讓代價函數值下降最多的參數組合。我們持續這麼做直到到到一個局部最小值（local minimum），因爲我們並沒有嘗試完所有的參數組合，所以不能確定我們得到的局部最小值是否便是全局最小值（global minimum），選擇不同的初始參數

>>阅读原文<<