【Deep Learning 】深度模型中的優化問題（七）之 Adam（自適應算法3）

本文是Deep Learning 之 最優化方法系列文章的 Adam（自適應算法3）方法。主要參考Deep Learning 一書。 以下節選自個人深度學習筆記。 內容整合來源於網絡與個人理解。     Adam（自適應矩估計） 口Adam 這個名字來源於adaptive moment estimation, 自適應矩估計。 口Adam本質上是帶有動量項的RMSprop, 它利用梯度的一階矩估計和

>>阅读原文<<