有關Dropout 的小結

1. Dropout可以比較有效的緩解過擬合的發生，在一定程度上達到正則化的效果。 2. Dropout說的簡單一點就是：我們在前向傳播的時候，讓某個神經元的激活值以一定的概率p停止工作，這樣可以使模型泛化性更強，因爲它不會太依賴某些局部的特徵，如圖1所示。 3. 工作原理 上面公式中Bernoulli函數是爲了生成概率r向量，也就是隨機生成一個0、1的向量。 4. 普通的dropout 通常適用

>>阅读原文<<