誰擋了我的神經網絡？（二）—— 優化算法

誰擋了我的神經網絡？（二）—— 優化算法 這一系列文章介紹了在神經網絡的設計和訓練過程中，可能提升網絡效果的一些小技巧。前文介紹了在訓練過程中的一系列經驗，這篇文章將重點關注其中的優化算法部分。更新於2018.11.1。 文章目錄 誰擋了我的神經網絡？（二）—— 優化算法 前言 Adam 參數 什麼是Adam算法 Adam的工作原理 Adam的有效性 參考文獻 前言 在訓練的過程中，選擇的優化算法

>>阅读原文<<