隨機梯度下降

本文首發自公衆號：RAIS，點擊直接關注。 前言 本系列文章爲 《Deep Learning》 讀書筆記，可以參看原書一起閱讀，效果更佳。 梯度下降算法 在機器學習或深度學習中，模型的訓練在一般都會被轉換爲求使得目標函數函數值最小的參數組合的優化問題，簡而言之就是優化參數，梯度下降法是優化參數的一種方法。梯度是數學上面的概念，梯度的方向是某一點方向導數最大值的的方向，其向其反方向（負梯度）移動，就

>>阅读原文<<