Dropout淺層理解學習筆記

Dropout在網絡前向傳遞過程中，關閉一些神經元和它的連接。這麼做是爲了： 1. 爲了防止過擬合； 2. 爲了提高神經元的學習能力。 一、形象化理解： 每次做完Dropout，相當於從原始的網絡中找到一個更「瘦」 的網絡，如下圖所示： 對於一個有N個節點的神經網絡，有了dropout後，就可以看做是2 n 個模型的集合了，但此時要訓練的參數數目卻是不變的，解決了費時的問題。 二、實現方法： Dr

>>阅读原文<<