Deep learning II - I Practical aspects of deep learning - 正則化如何較少過擬合

How regularization reduces overfitting? 解釋 1 通過regularization, 使得神經網絡各個層級的參數 W W 都更小更趨近於零，從而使得一個複雜的神經網絡變得更像一個簡單的神經網絡（當參數真爲零是，就是簡單的神經網絡了），從而減小過擬合。 解釋 2 以 tanh tanh 激勵函數爲例，當 w[l] w [ l ] 較小時，則 z[l]=w[l]

>>阅读原文<<