深度學習Dropout技術分析

深度學習Dropout技術分析 什麼是Dropout？ dropout是指在深度學習網絡的訓練過程中，對於神經網絡單元，按照一定的概率將其暫時從網絡中丟棄。注意是暫時，對於隨機梯度下降來說，由於是隨機丟棄，故而每一個mini-batch都在訓練不同的網絡。dropout是CNN中防止過擬合提高效果的一個大殺器，但對於其爲何有效，卻衆說紛紜。在下讀到兩篇代表性的論文，代表兩種不同的觀點，特此分享給大

>>阅读原文<<