線性迴歸的檢驗

 在一元線性迴歸和多元線性迴歸中經常須要進行線性顯著性檢驗（F檢驗）和係數相關性檢驗（t檢驗）。

 經過對數據進行分析得出數據服從下面公式：

 多元線性迴歸預測模型通常公式爲：

　　

    式中：

     ：因變量；

　　x1,x2……：兩個不一樣自變量，即與因變量有緊密聯繫的影響因素。

　　a,b1,b2……：是線性迴歸方程的參數。

 經過迴歸分析預測得出模型須要兩個檢驗。

 1、F檢驗

 F檢驗又叫方差齊性檢驗。在兩樣本t檢驗中要用到F檢驗。

 從兩研究整體中隨機抽取樣本，要對這兩個樣本進行比較的時候，首先要判斷兩整體方差是否相同，即方差齊性。若兩整體方差相等，則直接用t檢驗，若不等，可採用t檢驗或變量變換或秩和檢驗等方法。

 其中要判斷兩整體方差是否相等，就能夠用F檢驗。

 迴歸平方和SSR表示Y估計值與平均值之差的平方和，其自由度爲自變量個數p；殘差平方和SSE表示Y的實際觀測值與估計值之差的平方和，其自由度爲觀察次數n與自變量個數p之差減1，即便n-p-1。

 迴歸方程線性是否顯著：

       原假設H0：b1=b2=b3=……=0

       備擇假設H1：b一、b二、b3……至少有一個不爲0。

 F=(SSR/p)/[SSE/(n-p-1)]

 F服從分子p個自由度、分母n-p-1個自由度的F分佈。

 若F<=Fα,代表SSR比較小，估計值與平均值比較接近，說明各自變量係數在（1-α）的置信度內服從原假設；若是F>Fα，則放棄原假設，有（1-α）的置信度選擇備擇假設，證實至少一個係數不爲0，迴歸方程是線性顯著的。

 2、t檢驗

 係數bi的估計值與其標準差的商服從t分佈。

        T=（bi估計值）/（bi估計值的標準差）

 根據大數定律，bi估計值服從正態分佈，其標準差是多個正態分佈的平方和除以次數，故服從t分佈.

      原假設：bi=0

      備擇假設：bi不爲0

 若是bi=0,則bi估計值與實際值0之差越小，越能相信原假設，反之則相信備擇假設。

 則若是T>Tα，則相信備擇假設，有（1-α）置信度相信該係數不爲0；若是T<=Tα，則說明該係數爲0，該自變量不能影響因變量Y。

參考：http://blog.sina.com.cn/s/blog_5c2cfefb0100ej3p.html