深度學習-帶動量的隨機梯度下降算法

1.指數加權平均 類比n個數求平均： 如果  表示前  個數的平均， 表示第  個數，那麼  個數的指數加權平均定義爲：                                                其展開爲：                                                                                      

>>阅读原文<<