深度學習——優化器算法Optimizer詳解（BGD、SGD、MBGD、Momentum、NAG、Adagrad、Adadelta、RMSprop、Adam）

轉載自：http://www.javashuo.com/article/p-ftfptvmk-gz.html 在機器學習、深度學習中使用的優化算法除了常見的梯度下降，還有 Adadelta，Adagrad，RMSProp 等幾種優化器，都是什麼呢，又該怎麼選擇呢？ 在 Sebastian Ruder 的這篇論文中給出了常用優化器的比較，今天來學習一下： https://arxiv.org/pdf/

>>阅读原文<<