batch歸一化

本文來自於網易雲課堂 在深度學習興起後，最重要的一個思想是一個算法-Batch歸一化，由Sergey Ioffe和Christian Szegedy兩位研究者創造。Batch歸一化會使參數搜索問題變得很容易，使神經網絡對超參數的旋轉更加穩定，超參數的範圍會更龐大，工作效果也很好。 在邏輯迴歸中，我們學過歸一化輸入會讓算法運行的更好。 那麼我們可不可以歸一化每一層的a來使得下一次的參數訓練的更好呢？

>>阅读原文<<