梯度下降法（Gradient Descent， GD）數學推導

本文參考李宏毅機器學習視頻 預備知識 1、首先回顧一下 Taylor 展開式的形式： 2、當兩向量反向相反時，相乘取得最小值； 梯度下降法數學推導 利用下圖演示模型的優化過程（即最小化 Loss function 的過程）： 爲了找到 loss function 的最小值（圖中最低點），先隨機找一點（a，b），然後以（a，b）爲圓心，畫一個足夠小的圓； 在這個圓內，可以使用 Taylor 公式將

>>阅读原文<<