模型量化——基礎知識 & LSQ論文閱讀

  感謝陳老師給的機會，有幸能夠參加2020年的DAC比賽。我在其中負責目標檢測器的調試和量化。自己第一次接觸量化這個任務，很多東西都是一點一點學。 一、量化基礎   對於一個全精度的值 v v v，若量化步長爲 s s s（也可理解爲量化分辨率），正負量化層級（quantization levels ）分別爲 Q P Q_{P} QP​和 Q N Q_{N} QN​。則量化過程爲： v ˉ =

>>阅读原文<<