深度學習中Dropout的作用和原理

理解dropout dropout是指在深度學習網絡的訓練過程中，對於神經網絡單元，按照一定的概率將其暫時從網絡中丟棄。注意是暫時，對於隨機梯度下降來說，由於是隨機丟棄，故而每一個mini-batch都在訓練不同的網絡。 dropout是CNN中防止過擬合提高效果的一個大殺器，但對於其爲何有效，卻衆說紛紜。在下讀到兩篇代表性的論文，代表兩種不同的觀點，特此分享給大家。 1 組合派 參考文獻中第一篇

>>阅读原文<<