二、AI教程學習筆記 | 神經網絡優化（二）

目錄   1、mini-batch 2、如何爲mini-batch選擇合理的大小 3、指數加權平均 4、動量梯度下降 5、RMSprop 6、Adam優化算法 7、學習率衰減 8、局部最優 1、mini-batch 2、如何爲mini-batch選擇合理的大小 3、指數加權平均 在理解動量梯度下降法之前，我們首先要了解指數加權平均數，這是動量梯度下降法的核心。那麼，什麼是指數加權平均數呢，我們這裏

>>阅读原文<<