格靈深瞳開源量化算法 EasyQuant

深度學習給人工智能算法帶來了躍階式的突破,引領了近幾年的AI繁榮發展。相應的,「AI+」和「+AI」落地應用在各產業領域遍地開花。而深度網絡模型的嵌入式應用和加速,則是人工智能落地的重要方向。 爲了實現深度網絡模型的加速,量化是一種常用的優化方式。量化後需要的資源只有原來的1/4,這樣就可以使用更多的並行指令,從而實現加速。 「量化是將原本用高精度float32表示的模型,轉化成用低精度Int8或
相關文章
相關標籤/搜索