基於openvino 2019R3的推理性能優化的學習與分析 (四) 基於GPU的推理(inference)性能分析

再看看純集成顯卡GPU的mobilenet-ssd 的推理性能,  測試平臺是i5 7440HQ, 4核4線程, GPU是Gen9 的GT2, 24EU, 屬於純大白菜集成顯卡   首先是FP32模型 當Batch size =1時 inference request(nireq) = 1時，即同時只有一個推理請求 Latency = 13.6ms, Throughtput = 73FPS, 性能

>>阅读原文<<