動手學深度學習Pytorch版本學習筆記 Task 06

1.批量歸一化和殘差網絡 1.1批量歸一化（BatchNormalization） 1.1.1對輸入的標準化（淺層模型） 處理後的任意一個特徵在數據集中所有樣本上的均值爲0、標準差爲1。 標準化處理輸入數據使各個特徵的分佈相近 1.1.2批量歸一化（深度模型） 利用小批量上的均值和標準差，不斷調整神經網絡中間輸出，從而使整個神經網絡在各層的中間輸出的數值更穩定。 1.1.3對全連接層做批量歸一化

>>阅读原文<<