02.改善深層神經網絡:超參數調試、正則化以及優化-優化算法

優化算法 文章目錄 優化算法 2.1mini-batch 梯度下降 2.2理解mini-batch梯度下降法 2.3 指數加權平均數 2.4指數加權平均的偏差修正 2.5 動量梯度下降法 2.6 RMSprop 2.7 Adam 優化算法 2.8學習率衰減 2.1mini-batch 梯度下降 優化算法,這能讓你的神經網絡運行得更快。 雖然之前的向量化的方法能夠讓我們較快地處理樣本數據,但是當樣本
相關文章
相關標籤/搜索