TensorRT 深度學習前向推理簡單介紹

2、TensorRT介紹 TensorRT 如今是inference 精度最高,速度最快的,並且在不斷的改進過程當中,在保證軟件精度的同時,不斷提升速度;TensorRT只能用來作Inference,不能用來作train; TensorRT V1不能和caffe 同時工做,Release-V2解決這個問題,內部測試已經沒有問題。 一、TensorRT的須要的文件 須要的基本文件(不是必須的) 1>
相關文章
相關標籤/搜索