(15)[ICML13] Momentum: On the importance of initialization and momentum in deep learning

計劃完成深度學習入門的126篇論文第十五篇,多倫多大學和Google的Ilya Sutskever合做研究一種在梯度降低過程當中優化降低迭代速度的方式,屬於AdaptiveLearning的一種。關聯:Adam,AdaGrad,RMSProp,Adabound。 ABSTRACT&INTRODUCTION 摘要 深度神經網絡(DNNs)和遞歸神經網絡(RNNs)是一種強大的神經網絡模型。在本文中,
相關文章
相關標籤/搜索