《動手學深度學習》學習日誌2

一、過擬合、欠擬合及其解決方案 欠擬合現象： 模型無法達到一個較低的誤差 過擬合現象： 訓練誤差較低但是泛化誤差依然較高，二者相差較大 應對欠擬合的方法 • 換更復雜的模型； • 增加模型參數 -應對過擬合的方法： • -增加訓練樣本 • 權重衰減：通過爲模型損失函數添加懲罰項使學出的模型參數值較小 • 丟棄法：設置丟棄率p，則訓練的過程中有p的概率的對參數清零，有1-p的概率的對參數進行拉伸；但

>>阅读原文<<