基於可訓練Step-size的低比特量化——LSQ: Learned Step-size Quantization

Paper地址:https://arxiv.org/abs/1902.08153 GitHub地址 (PyTorch):https://github.com/zhutmost/lsq-net 基本量化設置 計算結點僞量化: Weight跟Activation都採用Per-tensor量化; Scaling factor (Paper標記爲Step size)是可學習參數; 量化計算公式: Step
相關文章
相關標籤/搜索