用梯度下降求解最小二乘線性迴歸python實現

1.前言 最小二乘法線性迴歸作爲最基礎的線性迴歸，在統計和機器學習中都有重要的地位。在機器學習中，線性迴歸用來從數據中獲得啓示來幫助預測，因此如何得到最擬合數據的函數和防止過擬合是研究重點。 假設我們的擬合函數是 y = a x + b y = ax + b y=ax+b，標準的線性最小二乘採用MSE做爲loss function。那麼在用梯度下降求解的時候，參數a,b對應的梯度分別爲: ∂ ∂

>>阅读原文<<