Group Normalization 反向傳播 BP推導（適用於caffe實現）

何凱明大神最近出的Group Normalization,文章中就自帶了TF的實現代碼，非常簡潔，但是對於少數還在不得不使用caffe的人來說還得自己手動推導BP公式，網上找了很久都沒有找到，此處花了一些時間推了一下，歡迎指正。 實際上推導出來後才發現GN的反向傳播和Instance Norm基本一樣，區別僅僅在於最後求Mean的範圍，IN是針對一個channel進行求解，GN則是在一個group

>>阅读原文<<