新型Dropout

Multi-Sample-Dropout 自從BN出來後，感覺BN的熱度超過了此前的dropout。然而，最近一篇最新論文指出，其實dropout並沒有想象的那麼差，而是可以通過優化，來提升網絡模型性能的。詳細點擊原文 解讀具體看下面的分析： 首先要知道dropout的工作原理，現在的dropout不如從前了，從前是在卷積層後也會使用（N年前），但現在一般卷積層後使用的是BN層來歸一化輸出，那麼d

>>阅读原文<<