最小二乘法與極大似然估計

一：背景：當給出我們一些樣本點，我們可以用一條直接對其進行擬合，如y= a0+a1x1+a2x2,公式中y是樣本的標籤，{x1,x2,x3}是特徵，當我們給定特徵的大小，讓你預測標籤，此時我們就需要事先知道參數{a1,a2}。而最小二乘法和最大似然估計就是根據一些給定樣本(包括標籤值)去對參數進行估計<參數估計的方法>。一般用於線性迴歸中進行參數估計通過求導求極值得到參數進行擬合，當然也可以用牛頓

>>阅读原文<<