ADADELTA AN ADAPTIVE LEARNING RATE METHOD

ADADELTA: AN ADAPTIVE LEARNING RATE METHOD 參考:[自適應學習率調整AdaDelta](https://www.cnblogs.com/neopenx/p/4768388.html) 我們提出了一種新的梯度下降的逐維學習率方法ADADELTA。該方法僅使用一階信息隨時間動態地適應,並且除了一般的隨機梯度下降外,具有最小的計算開銷。該方法不需要人工調整學習速
相關文章
相關標籤/搜索