深度學習入門筆記手稿(十)理解指數加權平均

深度學習入門筆記手稿(十)理解指數加權平均 理解指數加權平均 理解指數加權平均 指數加權平均是深度學習衆多優化算法的理論基礎,包括Momentum、RMSprop、Adam等,在介紹這些優化算法前,有必要對指數加權平均(exponentially weighted averages)做一個簡單的介紹,以期對後續的優化算法的原理有所知曉。
相關文章
相關標籤/搜索