TensorRT Inference引擎簡介及加速原理簡介

TensorRT Inference引擎簡介及加速原理簡介 簡介 TensorRT加速原理 TensorRT直接支持的層 TensorRT--8-bit Inference 結果 簡介 最近在做CNN卷積神經網絡量化方面的工作，查閱資料發現TensorRT有新穎的思想，記錄學習的知識，如有問題請指教！TensorRT是NVIDIA 推出的一款基於CUDA和cudnn的神經網絡推斷加速引擎(C++庫

>>阅读原文<<