論文總結:WRPN: Wide Reduced-Precision Networks

論文地址:https://arxiv.org/pdf/1709.01134v1.pdf 這篇論文主要篇幅都花在實驗上,對於wrpn的具體原理等並未詳細介紹。下面簡單介紹筆者對該論文的理解。 主要內容 該論文最大貢獻就是在不影響網絡精度的前提下,對於激活層的量化。 如下圖所示,使用minibatch時,隨着batch數量的增加,激活層佔用的內存顯著增加。所以,作者提出了激活層量化的wrpn方法。 D
相關文章
相關標籤/搜索