【備忘】多元線性迴歸正規方程求解參數推導過程

 * 矩陣求導過程略 線性迴歸中的正規方程求解法與梯度下降迭代優化不同，一步到位直接得到最優參數結果，但是時間複雜度非常高，達到了，適用於數據量比較小的情況，一旦數據量過大求解的時間成本呈指數擴張；並且當爲奇異陣（不可逆）時正規方程不可用，此時還是採用梯度下降法較好，事實上基本所有實現線性迴歸算法的庫中都用的梯度下降法而非正規方程求解。

>>阅读原文<<