何愷明、吳育昕最新成果:用組歸一化替代批歸一化

編譯 | 阿司匹林 AI科技大本營按:近日,FAIR 團隊的吳育昕和何愷明提出了組歸一化(Group Normalization,簡稱 GN)的方法。其中,GN 將信號通道分成一個個組別,並在每個組別內計算歸一化的均值和方差,以進行歸一化處理。此外,GN 的計算與批量大小無關,而且在批次大小大幅變化時,精度依然穩定。實驗結果證明,GN 在多個任務中的表現均優於基於 BN 的同類算法,這表明 GN
相關文章
相關標籤/搜索