期望風險、經驗風險、結構風險的關係

首先引入損失函數的概念：損失函數就一個具體的樣本而言，模型預測的值與真實值之間的差距。對於一個樣本（xi,yi）其中yi爲真實值，而f（xi）爲我們的預測值。使用損失函數L（f(xi),yi）來表示真實值和預測值之間的差距。兩者差距越小越好，最理想的情況是預測值剛好等於真實值。 常見的損失函數如下： 通過損失函數我們可以得知對於單個樣本點的預測能力，對於訓練樣本集中所有數據的預測可以通過累加得到，

>>阅读原文<<