深度學習中的常見正則化問題

引言 機器學習算法不僅僅要在訓練集上表現效果好，同樣的，也要在測試集上表現良好。通常的，在訓練集上的誤差稱爲訓練誤差，而機器學習算法在測試集上的誤差就是泛化誤差。通常訓練誤差和泛化誤差有這樣一張圖： 當訓練誤差非常小時，通常泛化誤差會變很大，這就是所謂的「過擬合」現象。爲了解決這種問題，就需要我們設計一些策略來減少泛化誤差，當然可能會相應的增加訓練誤差，不過這些代價是值得的。下面我們就來深入討論一

>>阅读原文<<