《動手學深度學習PyTorch版》打卡_Task3，過擬合，欠擬合，梯度消失，梯度爆炸

        最近參加了伯禹平臺和Datawhale等舉辦的《動手學深度學習PyTorch版》課程，對過擬合，欠擬合，梯度消失，梯度爆炸做下筆記。 過擬合和欠擬合   模型無法得到較低的訓練誤差，我們將這一現象稱作欠擬合（underfitting） 模型的訓練誤差遠小於它在測試數據集上的誤差，我們稱該現象爲過擬合 解決方法 權重衰減 權重衰減等價於 L2 範數正則化（regularization

>>阅读原文<<