線性迴歸問題

線性迴歸

線性迴歸(Linear Regression)是利用稱爲線性迴歸方程的最小平方函數對一個或多個自變量和因變量之間關係進行建模的一種迴歸分析。
例如：
有三個樣本點(1,1),(2,2),(3,3)

咱們假設函數爲：

用這個函數表示樣本點的模型，此時要找到合適的模型就要肯定θ1的最佳值

代價函數

爲肯定合適的θ1，就要設定代價函數，咱們用最小二乘法來表示代價函數：

此時即成爲了以θ1爲變量的函數，那麼使代價最小的θ1的值即爲所求
函數圖像爲：

再複雜一點，若是樣本爲下圖：

那麼假設函數爲：

代價函數爲：

所得代價函數的圖像爲：

• 參考吳恩達機器學習課程