CS231n 學習筆記（十一）

時間：2019/4/2 內容：批量歸一化、監視學習過程、超參數優化 課時15：批量歸一化等 批量歸一化 參考論文 https://arxiv.org/abs/1502.03167 我們想要在高斯範圍內保持激活。如果想要正確激活單位高斯函數，可以取目前批量處理的均值，然後用均值和房差來進行歸一化。因此基本上我們在訓練開始時才設置這個值，而不是在權重初始化的時候，以便我們能夠在每一層都有很好的單位高斯

>>阅读原文<<