group normalization

在BN中訓練的效果會受到batch影響，大的batch效果自然好，但是小的batch求出來的均值，方差不足以表達整體樣本的分佈特性，所以在測試階段誤差就會很大 GN的做法則是在通道上進行劃分，在劃分後的通道上進行normalization https://blog.csdn.net/u013289254/article/details/99690730

>>阅读原文<<