深度學習優化算法基礎

機器學習往往伴隨着大量迭代過程，需要訓練諸多模型，才能找到合適的那一個，優化算法能夠幫我們快速訓練模型。 文章目錄 1. Mini-batch梯度下降 2. 理解mini-batch梯度下降算法 3. 指數加權平均數 4. 理解指數加權平均數 5.指數加權平均的偏差修正 6. 動量梯度下降法 7. RMSprop 8. Adam優化算法 9. 學習率衰減 10. 局部最優的問題 1. Mini-b

>>阅读原文<<