《14天動手學深度學習》——梯度消失、梯度爆炸

梯度消失、梯度爆炸以及Kaggle房價預測 梯度消失和梯度爆炸 考慮到環境因素的其他問題 Kaggle房價預測 梯度消失和梯度爆炸 深度模型有關數值穩定性的典型問題是消失（vanishing）和爆炸（explosion）。 當神經網絡的層數較多時，模型的數值穩定性容易變差。 假設一個層數爲L的多層感知機的第l層H(l)的權重參數爲W(l)，輸出層H(L)的權重參數爲W(L)。爲了便於討論，不考慮偏

>>阅读原文<<