Pytorch轉ONNX轉TensorRT加速推理過程

咱們訓練好深度學習模型後，這時其仍然需在特定的深度學習框架下運行，每每不能進行高性能推理。python NVIDIA提供了一套高效推理的框架——TensorRT，可將已訓練好的模型轉爲TensorRT引擎格式，而後進行高效推理。git 對於Pytorch用戶而言，該技術路線爲：pytorch model-->onnx file-->TensorRT engine。github 所以，咱們須要作的只

>>阅读原文<<