過擬合的處理方法總結

1. L1&L2參數正則化 基本的思想是對參數進行約束,在保證取得最小的損失函數的同時衰減不相關特徵的參數。具體可以看另外一篇博文:L1 & L2 正則化的理解 2. Dropout 集成思想,同時減少每層的神經節點之間的相互依賴。 3. 數據增強 原始的思想是擴充數據集,增強泛化能力。裁剪/翻轉/顏色亮度變化。 數據增強 4. 遷移學習 當你的數據集比較小,訓練的網絡過擬合,泛化能力比較差,你也
相關文章
相關標籤/搜索