[Machine Learning] 深度學習中消失的梯度

好久沒有更新blog了,最近抽時間看了Nielsen的《Neural Networks and Deep Learning》感覺小有收穫,分享給大家。   瞭解深度學習的同學可能知道,目前深度學習面臨的一個問題就是在網絡訓練的過程中存在梯度消失問題(vanishing gradient problem),或者更廣義地來講就是不穩定梯度問題。那麼到底什麼是梯度消失呢?這個問題又是如何導致的呢?這就是
相關文章
相關標籤/搜索