Group Normalization

理解論文   Group Normalization  摘要 1.在batch dimension上normalizing存在問題：由於批量統計估計不準確，批量越小，BN的誤差越大。  2.提出了一種簡單的BN的替代品：Group Batchnormalization（GN）。 3.GN將通道劃分爲多個組，並在每個組內計算平均值和方差以進行歸一化。 GN的計算與batch sizes無關，在較寬的

>>阅读原文<<