Batch Nomalizaiton & Dropout

Batch Normalization: arXiv:1502.03167 作用：將每一次層神經元的輸出都進行歸一化，將數據縮放到合適的範圍 添加場景：卷積之後，激活之前   Dropout: arXiv:1207.0580 作用：減少數據之間的相關性，提高泛華能力，改善過擬合的現象 要點：訓練時以機率p將神經元輸出置0，改善過擬合情況，可能減緩收斂速度，不會對訓練和預測速度產生太大影響。 放在分

>>阅读原文<<