林軒田《機器學習基石》（十三）—— Hazard of overfitting

上節課講了如何解決非線性問題：通過特徵變換，將非線性模型映射到另一個空間，轉換爲線性模型，再來進行分類。我們說這樣會增加額外的模型複雜度。今天我們說這個額外的複雜度會造成機器學習過擬合（overfitting）現象。今天講困難怎麼產生的以及如何解決它。 一、什麼是過擬合？ 先從一個例子出發，我們現在要做一個一維的迴歸分析，資料中有五個點，然後輸出一個實數。 資料：，N = 5 目標函數f：f是一個

>>阅读原文<<