機器學習之降低損失 (Reducing Loss)：梯度下降法

迭代方法圖（圖 1）包含一個標題爲「計算參數更新」的華而不實的綠框。現在，我們將用更實質的方法代替這種華而不實的算法。 假設我們有時間和計算資源來計算 的所有可能值的損失。對於我們一直在研究的迴歸問題，所產生的損失與 的圖形始終是凸形。換言之，圖形始終是碗狀圖，如下所示： 圖 2. 迴歸問題產生的損失與權重圖爲凸形。 凸形問題只有一個最低點；即只存在一個斜率正好爲 0 的位置。這個最小值就是損失函

>>阅读原文<<