學習日誌（十）：最小二乘法和梯度下降算法的聯繫與區別

在一篇博文中看到把最小二乘法和梯度下降算法放在一起進行比較，當時就一臉懵逼暈倒，但是醒來還是要搞清楚的。關於二者的關係，結合網上不同的說法我給出我的理解： 聯繫 最小二乘法（又稱最小平方法）是一種數學優化技術或者說是一種優化準側。它通過最小化誤差的平方和尋找數據的最佳函數匹配。利用最小二乘法可以簡便地求得未知的數據，並使得這些求得的數據與實際數據之間誤差的平方和爲最小。最小二乘法還可用於曲線擬合。

>>阅读原文<<