深度學習——正則化(二)

深度學習——正則化(二) 在之前的文章中深度學習——正則化(一)中，我們簡單的介紹了幾種常見的正則化的策略。下面我繼續介紹正則化的相關策略。 1、 參數綁定與參數共享 在我們之前的敘述中，我們討論了通過對損失函數添加懲罰項，從而對參數進行約束或者懲罰，但是我們可以發現這種方式是針對相對固定的區域或者點。比如L2正則化中是對參數偏離0的固定值進行了懲罰。然而，我們對於模型參數的值有的時候會基於一定的

>>阅读原文<<