期望風險、經驗風險、結構風險的關係

要區分這三個概念，需要先講一下損失函數L(Y,f(x))的概念。 損失函數：針對單個具體樣本，表示模型預測值與真實樣本值之間的差距。損失函數越小，說明模型對於該樣本預測越準確。常見損失函數有0-1損失函數、平方損失函數、絕對損失函數、對數損失函數（對數似然損失函數）。 經驗風險：對所有訓練樣本都求一次損失函數，再累加求平均。即，模型f(x)對訓練樣本中所有樣本的預測能力。 所謂經驗風險最小化即對訓

>>阅读原文<<