梯度下降算法

在機器學習算法中，對於很多監督學習模型，需要對原始的模型構建損失函數，接下來便是通過優化算法對損失函數進行優化，以便尋找到最優的參數。在求解機器學習參數的優化算法中，使用較多的是基於梯度下降的優化算法(Gradient Descent, GD)。梯度下降法有很多優點，其中，在梯度下降法的求解過程中，只需求解損失函數的一階導數，計算的代價比較小，這使得梯度下降法能在很多大規模數據集上得到應用。梯度下

>>阅读原文<<