【吳恩達深度學習專欄】神經網絡的編程基礎(Basics of Neural Network programming)——梯度下降法（Gradient Descent）

2.4 梯度下降法（Gradient Descent） 梯度下降法可以做什麼？ 可以用如圖那個小紅點來初始化參數w和b，也可以採用隨機初始化的方法，對於邏輯迴歸幾乎所有的初始化方法都有效，因爲函數是凸函數，無論在哪裏初始化，應該達到同一點或大致相同的點。 我們以如圖的小紅點的座標來初始化參數w和b。 2. 朝最陡的下坡方向走一步，不斷地迭代 我們朝最陡的下坡方向走一步，如圖，走到了如圖中第二個小紅

>>阅读原文<<