李宏毅《機器學習》課程筆記（作業一：線性迴歸和梯度下降）

正則化regularization的目標是使得學出來的模型比較「平滑」，也就是說對輸入的數據不敏感，所以如果輸入的數據加入了一定的噪音，對輸出的值的影響就比較小。 陸吾生的解釋是，加入正則化以後，我們就更願意放棄高階函數，選擇低階的函數，而低階的函數在面對新的數據的時候可能具有更好的能力。 正則化的時候是不需要加上b的，因爲b對於模型的平滑程度是沒有影響的。 estimator有bias和vari

>>阅读原文<<