【機器學習】正則化

正則化項是損失函數的附加標準,以確保不會過度擬合。 這樣做的目的是:權重不應該過大,如果權重太大,特徵上小小的變化就會引起預測較大的改變;也不希望給某個特徵過大的權重,因爲如果它有太大的權重,就會有很大的影響,其他的特徵就起不到應有的作用;我們也希望無用的特徵其權重爲0. 正則化項有多種計算方式: L1正則:絕對值求和 L2正則:平方和 區別在於:平方和權重給予較大值更多的懲罰 p-範數:p次方和
相關文章
相關標籤/搜索