神經網絡優化----正則化 （正則化損失函數）

在神經網絡優化中，通過對損失函數進行正則化來緩解過擬合 方法：通過在損失函數中引入模型複雜度指標，利用給W加權值，弱化了訓練數據的噪聲 公式爲： loss = loss(y與y_) + regularizer * loss(w) 其中 loss(y與y_)爲一般損失函數，可以爲交叉熵損失函數，或者均方誤差損失函數 regularizer爲正則化權重 regularizer * loss(w) 在p

>>阅读原文<<