HWGQ-net學習記錄

HWGQ-net學習記錄 概要介紹 HWGQ的全名是Half-wave Gaussian Quantization翻譯過來就是半波高斯量子化，HWGW-net主要是針對激活值進行量化，以及使用近似的方法來擬合量化的損失（使得量化的損失和梯度匹配）。 也是模型量化一種方法html 這個網絡結構會在前向傳播的時候使用近似於ReLU函數的量化器，在反向傳播使用合適的分段線性函數，來解決前向傳播和反向傳播

>>阅读原文<<