7. 深度學習實踐:正則化(續)

接上篇:7. 深度學習實踐:正則化 7. 參數綁定和參數共享 表達對模型參數的先驗知識:經常想要表達的一種常見依賴是某些參數應當彼此接近。例如,兩個模型執行相同的分類任務,但輸入分佈稍有不同,因此我們認爲模型參數應彼此靠近。可通過正則化利用這個信息,具體的例如,參數範圍懲罰爲 Ω(w(A)−w(B))=||w(A)−w(B)||22 。 上述2006年提出,正則化一個模型(監督模式下的分類器)的參
相關文章
相關標籤/搜索