Dropout之後，爲什麼測試時需要乘以補償係數

  假如dropout爲0.5，那麼如下的一個神經元的輸出結構如圖，需要在測試時乘以0.5，因爲如果我們不這麼做的話會得到一個相對於訓練環節的輸出期望值來說大很多的值（因爲訓練環節是隨機0.5捨棄了神經元 參考圖片），分佈也會變，所以通過乘以0.5來補償這個巨大的偏差。當然我們也可以在訓練時乘以2倍，這樣就不需要在測試時來乘以0.5來使得兩個環節匹配。

>>阅读原文<<