【筆記3】動手學深度學習

資料來源：伯禹學習平臺。 批量歸一化 BatchNormalization和殘差網絡： 批量歸一化的作用： 1、  對輸入標準化，使各個特徵分佈相近，更加容易訓練出有效模型 2、  批量歸一化：深層模型接近輸出層數據變化劇烈，BN使各層輸出更穩定 批量歸一化應用位置：應用在全連接 或 卷積層之後，激活函數之前 BN在訓練時： 全連接層是對mxd個值做批量歸一化；卷積層是對mxpxq個值做批量歸一化

>>阅读原文<<