機器學習金典算法（二）--梯度下降法（2）

機器學習金典算法（二）–梯度下降法        本人上篇博文梯度下降法（1）解釋了梯度下降法在機器學習中位置及思想，本文將繼續討論梯度下降法，梯度下降法存在的問題及改進思路，以及現有的幾種流行的變種梯度下降法。 目錄 1 普通梯度下降法 3 隨機梯度下降法 4 標準梯度下降存在的問題 4.1 容易在最優值附近震盪 4.2 局部極小值 4.3 參數調整緩慢 5 學習率衰減 6 動量梯度下降法 7

>>阅读原文<<