tensorrt使用文檔(一)

Overview   NVIDIATensorRT™是一個C ++庫,可以幫助NVIDIA圖形處理器(GPU)進行高性能推理。 TensorRT通過合併張量和圖層,轉換權重,選擇高效的中間數據格式,並根據圖層參數和測量的性能從大型內核目錄中進行選擇,從而對網絡進行定義並對其進行優化。   TensorRT包含導入方法,可幫助您爲TensorRT表達訓練有素的深度學習模型以優化和運行。 它是一種優化
相關文章
相關標籤/搜索