(15)[ICML13] Momentum: On the importance of initialization and momentum in deep learning

計劃完成深度學習入門的126篇論文第十五篇,多倫多大學和Google的Ilya Sutskever合作研究一種在梯度下降過程中優化下降迭代速度的方式,屬於AdaptiveLearning的一種。關聯:Adam,AdaGrad,RMSProp,Adabound。 ABSTRACT&INTRODUCTION 摘要 深度神經網絡(DNNs)和遞歸神經網絡(RNNs)是一種強大的神經網絡模型。在本文中,我
相關文章
相關標籤/搜索