[解讀] Positional Normalization

規範化 (Normalization) 方法是加速深度神經網絡訓練的常用方法, 已經有許多歸一化方法的變體, 但它們都只是跨空間的規範化, 並且會丟棄掉規範化計算過程中得到的統計信息. 本文提出一種與衆不同的跨通道的規範化方法, 作者認爲這是一種很自然的想法, 因爲這將能夠從圖像或特徵圖的某一位置提取到一階和二階矩, 捕獲到某種結構信息. 論文鏈接: https://arxiv.org/abs/1

>>阅读原文<<