Gradient Centralization: A New Optimization Technique for Deep Neural Networks（講解）

論文地址：https://arxiv.org/pdf/2004.01461.pdf 項目地址：https://github.com/Yonghongwei/Gradient-Centralization 論文總體解讀：化繁爲簡python 不一樣於基於激活或權重向量運行的技術，該研究提出了一種基於權重向量梯度的簡單而有效的 DNN 優化技術——梯度中心化（GC）。 以下圖)所示，GC 只是經過中心

>>阅读原文<<