2.4神經網絡優化之正則化

在提出正則化這個概念以前，咱們先介紹過擬合現象。所謂過擬合就是所訓練的模型僅僅適用於訓練集，對於新的數據就不適用。那麼如何解決過擬合呢？咱們提出正則化方法，經過正則化方法能夠有效解決過擬合 正則化就是在損失函數引入複雜度指標，利用給參數加權值，以弱化訓練數據的噪聲 使用正則化後，損失函數loss變成兩部分 在圖片中,咱們看到如何在代碼去實現求loss(w) eg.生成一套數據集，隨機產生300個按

>>阅读原文<<