caffe-ssd網絡模型 tensorRT加速

tensorRT加速caffe模型的部署 一、簡介及其tensorRT加速原理 在計算資源並不豐富的嵌入式設備上，TensorRT之所以能加速神經網絡的的推斷主要得益於兩點。首先是TensorRT支持INT8和FP16的計算，通過在減少計算量和保持精度之間達到一個理想的trade-off，達到加速推斷的目的。 更爲重要的是TensorRT對於網絡結構進行了重構和優化，主要體現在一下幾個方面。 te

>>阅读原文<<