關於端側推理的一些框架

1) NCNN（騰訊）git ncnn加速不一樣於模型量化壓縮, 而是採用另外一種加速技巧，包括下面的幾種:github 使用低精度 採用openmp多線程加速 採用simd指令集 2) MNN（阿里）算法 MNN 是一個輕量級的深度學習端側推理引擎，核心解決深度神經網絡模型在端側推理運行問題，涵蓋深度神經網絡模型的優化、轉換和推理。這和服務器端 TensorRT 等推理引擎的想法不謀而合。服務器

>>阅读原文<<