反向傳播以及梯度消失（爆炸）問題總結

1 參數說明 2 反向傳播 3 梯度消失 4 梯度爆炸（激增） 5 梯度不穩定 6 梯度消失、爆炸的解決方案 7 反向傳播公式推導 7.1 問題描述 7.2 Chain rule 7.2.1 First Term 7.2.2 Second Term 7.3 Summary 7.4 Compare with forward propagation 7.5 Verification 參考資料 1 參數

>>阅读原文<<