【雜談】當前模型量化有哪些可用的開源工具?

模型量化屬於模型優化中的重要技術之一,是非常有效地提升模型推理速度的技術方案,那麼當前有哪些可用的模型量化工具呢? 作者&編輯 | 言有三 1 Tensorflow Lite TensorFlow Lite是谷歌推出的面向嵌入式設備的推理框架,支持float16和int8低精度,其中8bit量化算法細節可以參考白皮書「Quantizing deep convolutional networks f
相關文章
相關標籤/搜索