機器學習（五）--------正則化(Regularization)

過擬合(over-fitting)

欠擬合 正好 過擬合

怎麼解決
1.丟棄一些不能幫助咱們正確預測的特徵。能夠是手工選擇保留哪些特徵，或者使用一
些模型選擇的算法來幫忙（例如 PCA）
2.正則化。 保留全部的特徵，可是減小參數的大小（magnitude）

迴歸問題的模型是

是高次項致使了這個問題

咱們決定要減小𝜃3和𝜃4的大小，咱們要作的即是修改代價函數，在其中𝜃3和𝜃4 設置一點懲罰。

𝜆又稱爲正則化參數（Regularization Parameter）。
取一個合理的 𝜆 的值，這樣才能更好的應用正則化

正則化線性迴歸

正則化邏輯迴歸