簡單的最小二乘法

最小二乘法是用來做函數擬合或者求函數極值的方法。在機器學習，尤其是迴歸模型中，最常用的就是最小二乘迴歸求解模型參數。 1 最小二乘的原理與要解決的問題 最小二乘法是由勒讓德在19世紀發現的，原理的一般形式很簡單，發現的過程是非常艱難的。形式如下式： 觀測值就是我們的多組樣本，理論值就是我們的假設擬合函數。 目標函數也就是在機器學習中常說的損失函數. 我們的目標是得到使目標函數最小化時候的擬合函數的

>>阅读原文<<