二、AI教程學習筆記 | 神經網絡優化(二)

目錄   1、mini-batch 2、如何爲mini-batch選擇合理的大小 3、指數加權平均 4、動量梯度下降 5、RMSprop 6、Adam優化算法 7、學習率衰減 8、局部最優 1、mini-batch 2、如何爲mini-batch選擇合理的大小 3、指數加權平均 在理解動量梯度下降法之前,我們首先要了解指數加權平均數,這是動量梯度下降法的核心。那麼,什麼是指數加權平均數呢,我們這裏
相關文章
相關標籤/搜索