深度學習筆記(2):2.3|2.4 指數加權平均及理解 | 2.5 指數加權平均的偏差修正

接下來介紹一些比梯度下降法計算速度更快的優化算法。 2.3  指數加權平均 爲了更好地介紹這些優化算法,這裏先介紹一個概念----指數加權平均(exponentially weighted averages),全稱爲指數加權移動平均(exponentially weighted moving averages)。 下圖展示的是倫敦一年溫度的例子,散點圖如下圖所示。 對該數據擬合曲線,假設V0=0,
相關文章
相關標籤/搜索