降低訓練損失之學習速率

正如之前所述，梯度矢量具有方向和大小。梯度下降法算法用梯度乘以一個稱爲學習速率（有時也稱爲步長）的標量，以確定下一個點的位置。例如，如果梯度大小爲 2.5，學習速率爲 0.01，則梯度下降法算法會選擇距離前一個點 0.025 的位置作爲下一個點。 超參數是編程人員在機器學習算法中用於調整的旋鈕。大多數機器學習編程人員會花費相當多的時間來調整學習速率。如果您選擇的學習速率過小，就會花費太長的學習時間

>>阅读原文<<