機器學習基礎（三十） —— 線性迴歸、正則化（regularized）線性迴歸、局部加權線性迴歸（LWLR）

1. 線性迴歸 線性迴歸根據最小二乘法直接給出權值向量的解析解（closed-form solution）：python w=(XTX)−1XTy 線性迴歸的一個問題就是有可能出現欠擬合現象，由於它求的是具備最小均方偏差（LSE，Least Square Error）的無偏估計。顯然，若是模型欠擬合將不能取得最好的預測結果，因此有些方法容許在估計中引入一些誤差，從而下降預測的均方偏差。web 2.

>>阅读原文<<