Dropout解決過擬合問題

drop過程 假設我們要訓練這樣一個神經網絡 輸入是x輸出是y,正常的流程是:我們首先把x通過網絡前向傳播,然後把誤差反向傳播以更新參數讓網絡進行學習。使用dropout之後過程變成: 隨機(臨時)刪掉網絡中一半的隱藏神經元,輸入輸出神經元保持不變(下圖中虛線爲部分臨時被刪除的神經元) 把輸入x通過修改後的網絡前向傳播,然後把得到的損失結果通過修改的網絡反向傳播。一小批訓練樣本執行完這個過程後就按
相關文章
相關標籤/搜索