Dropout解決過擬合問題

假設我們要訓練這樣一個神經網絡 輸入是x, 輸出是y，正常的流程是：我們首先把x通過網絡前向傳播，然後把誤差反向傳播以決定如何更新參數讓網絡進行學習。使用dropout之後過程變成： 1.首先隨機（臨時）刪掉網絡中一半的隱藏神經元，輸入輸出神經元保持不變（下圖中虛線爲部分臨時被刪除的神經元） 2.然後把輸入x通過修改後的網絡前向傳播，然後把得到的損失結果通過修改的網絡反向傳播。一小批訓練樣本執行完

>>阅读原文<<