機器學習中使用正則化來防止過擬合是什麼原理？

從知乎整理而來 1 過擬合是一種現象。當我們提高在訓練數據上的表現時，在測試數據上反而下降，這就被稱爲過擬合，或過配。過擬合發生的本質原因，是由於監督學習問題的不適定：在高中數學我們知道，從n個（線性無關）方程可以解n個變量，解n+1個變量就會解不出。在監督學習中，往往數據（對應了方程）遠遠少於模型空間（對應了變量）。因此過擬合現象的發生，可以分解成以下三點： 有限的訓練數據不能完全反映出一個模型

>>阅读原文<<