【機器學習基礎】最小二乘與極大似然估計

最小二乘法 最小二乘法是勒讓德( A. M. Legendre)於1805年在其著作《計算慧星軌道的新方法》中提出的。它的主要思想就是求解未知參數，使得理論值與觀測值之差（即誤差，或者說殘差）的平方和達到最小： E = ∑ m i e 2 = ∑ m i ( y i − y ^ ) 2 E=\sum_{m}^{i}e^2=\sum_{m}^{i}(y_i-\hat{y})^2 E=m∑i​e2=m

>>阅读原文<<