機器學習中的迴歸理解

1. 機器學習中迴歸（自變量x和應變量y）之間的關係由兩種？

   肯定性關係（函數關係）：如線性相關，可以找到函數或者曲線可以進行擬合。

   非肯定性關係（相關關係）：如正相關，或者負相關。

2. 如何判斷這些散點，是否能夠用直線進行擬合？

   咱們能夠算法它們之間的x和y的相關係數:

    

 

 

 

 

 

算出它們之間的相關係數，相關係數越大，則越能夠用直線進行擬合。

3.怎麼求擬合直線方程？

    咱們能夠基於均方偏差最小化來進行模型求解的方法稱爲最小二乘法，而後求出線性迴歸模型的最小二乘參數估計(w,b)，分別對其求導等等算出

    也能夠經過矩陣求出：將w轉化成(w,b)，將x轉換成(x t,1),這就變成了矩陣形式，對其求導，w和b,而後根據矩陣的逆矩陣求法。

   固然還有其餘線性迴歸，如對數線性迴歸，對數概率迴歸