TensorRT、TensorFlow Lite模型量化比較

優勢：算法 以FP32到INT8量化爲例，模型存儲佔用減少爲1/4；網絡 增長數據throughput。3d   什麼是量化：code 表達式：orm 示意圖：blog 爲何不使用線性量化(y=ax+b)？由於線性量化後作乘運算會改變分佈。ci 怎麼量化：it TensorFlow Lite量化：io 訓練後量化和量化訓練兩種方式。class 訓練後量化方式： 過程：1.權重量化. 2.infer

>>阅读原文<<