深度學習入門-3（過擬合、欠擬合及其解決方案，梯度消失、梯度爆炸，4種進階的循環神經網絡）

深度學習入門-3（過擬合、欠擬合及其解決方案，梯度消失、梯度爆炸，4種進階的循環神經網絡） 一、過擬合、欠擬合及其解決方案 1、引入 （1）訓練誤差與泛化誤差 （2）過擬合與欠擬合 2、模型複雜度 3、訓練數據集大小 4、過擬合解決方法1——權重衰減（等價與L2 範數正則化） 4、過擬合解決方法2——丟棄法 二、梯度消失、梯度爆炸 1、梯度消失與梯度爆炸 2、隨機初始化模型參數 （1）爲什麼要隨機

>>阅读原文<<