機器學習經典算法(三)--指數加權平均

機器學習經典算法(三)–指數加權平均        指數加權平均(Exponentially Weighted Averages)是一些改進梯度下降法重要理論,如上篇博文梯度下降法(2)提到的動量梯度下降法,RMSprop、Adam等都用到了指數加權平均。也叫指數加權移動平均(Exponentially Weighted Moving Averages);那麼到底什麼是指數加權平均呢? 基礎概念
相關文章
相關標籤/搜索