理解Batch Normalization系列1——原理

Batch Normalization技巧自從2015年被谷歌提出以來,因其有效提升網絡訓練效率,獲得廣泛應用與持續研究。然而,要透徹理解BN卻不容易,下圖是Kainming He在《Learning Deep Representations for Visual Recognition》報告中的一頁,只需要注意右下角的紅色描述。 圖 1. 右下角的紅色提示足見BN的費解. (來源: Learni
相關文章
相關標籤/搜索