其他正則化技術

除了 L2 外還有很多規範化技術。實際上，正是由於數量衆多，我這裏也不會將所有的都列舉出來。在本節，我簡要地給出三種減輕過度擬合的其他的方法：L1 規範化、棄權(Dropout)和人爲增加訓練樣本。我們不會像上面介紹得那麼深入。其實，目的只是想讓讀者熟悉這些主要的思想，然後來體會一下規範化技術的多樣性。 L1 規範化 這個方法是在未規範化的代價函數上加上一個權重絕對值的和：  憑直覺地看，這和 L

>>阅读原文<<