深度學習中的正則化

正則化概念： 在《Deep Learning》書中定義正則化爲「對學習算法的修改——旨在減少泛化誤差而不是訓練誤差」，《統計學習方法》中認爲正則化是選擇模型的一種方法。我個人比較傾向於後一種解釋。在上一篇博客也提到了，模型可以看成是一個高維函數，當模型參數確定了，這個函數也就確定了。對於不同的模型參數，能得到千千萬萬個不同的模型，我們將這所有的可能得到的模型稱之爲假設空間。理想情況下，我們希望真實

>>阅读原文<<