圖解機器學習筆記（四）

接下來，我會講一下，如何防止過擬合。所謂的過擬合即是由於設計的模型過於複雜，如下圖： 最終我們的目的是做一個帶約束的最小二乘法，如下圖： 爲此，我們有如下約束和方法： 求出如下： 另外我們有帶 約束的最小二乘法方法，滿足如下約束。 即有如下表達式。 lambda大於0，可以自己設定。要得到這個表達式，必須用拉格朗日對偶問題解出來。或者我們用另一個表達形式寫出來解法： 最後，還可以用奇異值分解的方法

>>阅读原文<<