Google Colab上安裝TensorRT

NVIDIA TensorRT是一個高性能深度學習推理平臺。它包括深度學習推理優化器和運行時,可爲深度學習推理應用程序提供低延遲和高吞吐量。推理時,基於TensorRT的應用程序比僅CPU平臺的執行速度快40倍。使用TensorRT,您可以優化所有主流框架中訓練出的神經網絡模型。 簡單說,TensorRT是用來優化推理過程,而不是訓練過程,這也符合大多數應用場景,因爲最終部署到產品中,所做的工作就
相關文章
相關標籤/搜索