Adam優化算法（吳恩達深度學習視頻筆記）

Adam實際上就是將momentum和RMSprop結合在一起，並且取得了很好的效果，推薦使用。 下圖來自這位朋友的筆記 關於ε的選擇其實沒那麼重要，但你不需要設置它，因爲它並不會影響算法表現，一般都是直接調整α的值，看看哪個效果更好，其他參數就用默認值。

>>阅读原文<<