梯度下降(gradient descent)算法簡介

梯度下降法是一個最優化算法，通常也稱爲最速下降法。最速下降法是求解無約束優化問題最簡單和最古老的方法之一，雖然現在已經不具有實用性，但是許多有效算法都是以它爲基礎進行改進和修正而得到的。最速下降法是用負梯度方向爲搜索方向的，最速下降法越接近目標值，步長越小，前進越慢。 中文名 梯度下降 外文名 steepest descent (gradient descent) 用於 求解非線性方程組 類型 最

>>阅读原文<<