標準方程法（正規方程法）

爲了求得參數θ，也能夠不用迭代的方法（好比梯度降低法對同一批數據一直迭代），能夠採用標準方程法一次性就算出了θ，並且還不用feature scaling（若是feature很少的話，好比一萬如下，用這種方法最好）。

標準方程法介紹：

（1）

這裏面，X的第一列是人爲添加的，爲了方便運算的，都置爲1，後面纔是真正的特徵。

（2）

下面是樣本對應的輸出：

（3）

設擬合函數爲： h(x) = θ0 * x0 + θ1 * x1 .... + θn * xn  ( 其中x0 = 1)

（4）

採用均方偏差定好代價函數

最終結果 ：

 

 

證實：

要使得J最小，則有J對θ的導數=0，則

 

證完。

補充：

若不可逆，則

1）多是有兩列是線性相關的，那麼就刪除一個特徵；

2）多是特徵值過多，則刪除一些特徵值。