【論文閱讀筆記】PACT:PArameterized Clipping Activation for Quantized Neural Networks

全文概括   本文目的是將 activation 和 weight 一起量化,其結果能量化 activation 和 weight 到 4-bit 大小,且準確度能和 full precision 媲美(在一系列流行的模型和數據集上)。   該方法是提出一個新的激活函數,即PACT(PArameterized Clipping Activation),其作用在訓練階段,即該方案是從頭開始訓練的。
相關文章
相關標籤/搜索