最小二乘解總結

最小二乘的原理與要解決的問題 最小二乘的原理就是找到一組未知數，能使得目標值與估計值之間的殘差最小化。 最小二乘法的解法： 1.線性迴歸解法： 用矩陣的形式將損失函數表示出來，然後對損失函數矩陣求導， 這是線性迴歸的最小二乘法的求解結果。 最小二乘矩陣法（線性迴歸）的侷限性： 不適用於大規模的解，因爲要計算矩陣的逆。並且要保證矩陣是有逆的才能繼續。 而梯度下降方法可以對任何問題進行求解。

>>阅读原文<<