【深度之眼】Pytorch框架班第五期-Week6【任務1】第一節：weight_decay

正則化與偏差-方差分解 Regularization Regularization: 減小方差的策略 誤差可分解爲：偏差，方差與噪聲之和。即誤差=偏差+方差+噪聲之和 偏差度量了學習算法的期望預測與真實結果的偏離程度，即刻畫了學習算法本身的擬合能力 方差度量了同樣大小的訓練集的變動所導致的學習性能的變化，及刻畫了數據擾動所造成的影響 噪聲則表達了在當前任務上任何學習算法所能達到的期望泛化誤差的下界

>>阅读原文<<