什麼是指數加權平均、偏差修正？

指數加權平均 在深度學習優化算法中，例如Momentum、RMSprop、Adam，都提到了一個概念，指數加權平均，看了Andrew Ng的深度學習課程後，總結一下什麼是指數加權平均。  式中v_t可近似代表1/(1-β)個θ的平均值。                               偏差修正 由以上證明可以看出，每個最新數據值，依賴於以前的數據結果。 一般令第一個數值爲0，即v0=0

>>阅读原文<<