總結神經網絡中的正則化方法

正則化與過擬合 在論文中，正則化用「regularization」表示，那爲什麼需要正則化呢？因爲神經網絡在學習過程中出現了過擬合情況，具體表現就是在訓練集上表現好，在測試集上預測能力差，就是我們所說的泛化能力差，說的更直白一些，就是舉一反三的能力差，網絡學到了一些不重要的信息，比如說，對於貓狗識別，由於種種原因，網絡學習到貓的一項特徵是鬍鬚8-10根，下一次來了一隻貓只有6根鬍鬚，模型就判定不是

>>阅读原文<<