神經網絡的幾種參數更新方法

文章目錄 method 1：Stochastic Gradient Descend method 2 ：Momentum 物理模擬 理解： method 3 ：AdaGrad 學習率衰減 method 4 ：Adam 融合前兩個的方法 對比 代碼實現：待更 本文總結自《深度學習入門：基於Python的理論與實現》一書，對於後兩個方法，筆者還不太理解，所以僅僅介紹概念，或許以後會添加新的理解 本文默

>>阅读原文<<