【零基礎】神經網絡優化之dropout和梯度校驗

一、序言 　　dropout和L1、L2一樣是一種解決過擬合的方法，梯度檢驗則是一種檢驗「反向傳播」計算是否準確的方法，這裏合併簡單講述，並在文末提供完整示例代碼，代碼中還包含了之前L2的示例，全都是在「深層神經網絡解析」這篇基礎之上修改的。 二、dropout 　　簡單來說dropout就是在每次訓練時「隨機」失效網絡中部分神經元，大概就是下圖這麼個意思。   　　讓神經元隨機消失辦法很簡單，我

>>阅读原文<<