3.5 將 Batch 擬合進神經網絡-深度學習第二課《改善深層神經網絡》-Stanford吳恩達教授

將 Batch 擬合進神經網絡 (Fitting Batch Norm into a Neural Network) 你已經看到那些等式，它可以在單一隱藏層進行Batch歸一化，接下來，讓我們看看它是怎樣在深度網絡訓練中擬合的吧。 假設你有一個這樣的神經網絡，我之前說過，你可以認爲每個單元負責計算兩件事。第一，它先計算 z z z ，然後應用其到激活函數中再計算 a a a ，所以我可以認爲，每個

>>阅读原文<<