卷積神經網絡調參技巧（2）--過擬合（Dropout）

Dropout(丟棄) 首先需要講一下過擬合，訓練一個大型網絡時，因爲訓練數據有限，很容易出現過擬合。過擬合是指模型的泛化能力差，網絡對訓練數據集的擬合能力很好，但是換了其他的數據集，擬合能力就變差了。 在訓練深層網絡模型時，按照一定的概率，暫時將神經元丟棄，得到一個更加簡單的網絡模型，即每一個batch訓練的網絡模型都是不一樣的，都是原始網絡的子集，這些子網絡共享權值，與原始網絡的層數、參數數目

>>阅读原文<<