模型優化-梯度下降算法

梯度下降（Gradient Descent）算法是機器學習中使用非常廣泛的優化算法。當前流行的機器學習庫或者深度學習庫都會包括梯度下降算法的不同變種實現。 【思想】：要找到某函數的最小值，最好的方法是沿着該函數的梯度方向探尋，例如物理學上的加速度與速度的關係。當加速度爲零時，此時速度可能是最大，也有可能是最小，這取決於函數曲線。 【步驟】： 隨機取一個自變量的值 x 0 x_0 x0​； 對應該自

>>阅读原文<<