機器學習之模型擬合效果的判斷筆記

對於m個樣本

某模型的估計值爲

計算樣本的總平方和TSS(Total Sum of Squares):

計算殘差平方和RSS(Residual Sum of Squares):

　　RSS即偏差平方和SSE(Sum of Squares for Error)

定義 R²=1-RSS/TSS

　　R²越大，擬合效果越好

　　R²的最優值爲1

　　若預測值恆爲樣本指望，R²爲0

 

亦可定義ESS(Explained Sum of Squares):

TSS=ESS+RSS

只有在無偏估計時上述等式才成立，不然，TSS≥ESS+RSS

ESS又稱迴歸平方和SSR(Sum of Squares for Regression)