（原）Ubuntu安裝TensorRT

轉載請註明出處：

http://www.javashuo.com/article/p-urarydji-dt.html

參考網址：

https://docs.nvidia.com/deeplearning/sdk/tensorrt-install-guide/index.html

https://arleyzhang.github.io/articles/7f4b25ce/

https://docs.nvidia.com/deeplearning/sdk/cudnn-install/index.html

1 說明

1.1 直接使用deb安裝的。不過不記得以前cuda驅動是如何安裝的了。網上說cuda驅動和TensorRTF都是deb安裝的才行。。。

1.2 安裝環境是ubuntu 16.04.1+anaconda（python3.6.8）+cuda9.0+cudnn7.5

2 安裝步驟

2.1 sudo dpkg -i nv-tensorrt-repo-ubuntu1604-cuda9.0-trt5.1.5.0-ga-20190427_1-1_amd64.deb

2.2 sudo apt-key -add /var/nv-tensorrt-repo-cuda9.0-trt5.1.5.0-ga-20190427/7fa2af80.pub

2.3 sudo apt-get update

2.4 sudo apt-get install tensorrt

至此，TensorRTF安裝完成。

2.5 經過下面命令檢查一下是否安裝成功：

dpkg -l | grep TensorRT

2.6 經過下面命令安裝（不知道是啥，反正安裝就對了）：

sudo apt-get install python3-libnvinfer-dev

2.7 到上面，python裏面沒法import tensorrt。直接使用ubuntu自帶的archive manager打開nv-tensorrt-repo-ubuntu1604-cuda9.0-trt5.1.5.0-ga-20190427_1-1_amd64.deb文件，能夠看到裏面有python3.6的XXX。經過下面命令安裝該whl文件。

pip install tensorrt-5.1.5.0-cp36-none-linux_x86_64.whl

2.8 驗證python可否導入tensorrt（此處成功）：

2.9 安裝PyCUDA。

PyCUDA容許python直接訪問CUDA的API。

首先保證nvcc在PATH路徑中。然後輸入：

pip install 'pycuda>=2017.1.1'

2.10 驗證程序可否運行（見下面網址）

https://arleyzhang.github.io/articles/7f4b25ce/

能夠把 tensorrt 文件夾拷貝到用戶目錄下，方便本身修改測試例程中的代碼。

進入 samples 文件夾直接 make，會在 bin 目錄中生成可執行文件，能夠一一進行測試學習。

運行了sample_mnist，結果以下：

3 卸載

具體見網址：

https://docs.nvidia.com/deeplearning/sdk/tensorrt-install-guide/index.html#uninstalling

sudo apt-get purge "libnvinfer*"
pip uninstall tensorrt

4 其餘

4.1 cudnn使用deb安裝：

說明：不建議使用這種方式安裝。

Navigate to your <cudnnpath> directory containing cuDNN Debian file.

Install the runtime library, for example:

sudo dpkg -i libcudnn7_7.0.3.11-1+cuda9.0_amd64.deb

Install the developer library, for example:

sudo dpkg -i libcudnn7-devel_7.0.3.11-1+cuda9.0_amd64.deb

Install the code samples and the cuDNN Library User Guide, for example:

sudo dpkg -i libcudnn7-doc_7.0.3.11-1+cuda9.0_amd64.deb

4.2 使用tar文件安裝 

Navigate to your <cudnnpath> directory containing the cuDNN Tar file.

Unzip the cuDNN package.

tar -xzvf cudnn-9.0-linux-x64-v7.tgz

Copy the following files into the CUDA Toolkit directory, and change the file permissions.

sudo cp cuda/include/cudnn.h /usr/local/cuda/include
sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64
sudo chmod a+r /usr/local/cuda/include/cudnn.h /usr/local/cuda/lib64/libcudnn*

4.3 測試cudnn是否安裝成功

1）/usr/src/cudnn_samples_v7放到home文件夾下。

2）cd mnistCUDNN/

3）make

4）./mnistCUDNN

出錯了。。。

緣由是以前/usr/local/cuda中cudnn用的是7.4.2版本的。替換爲7.5以後，運行成功。（實際上在/usr/lib/x86_64-linux-gnu中有剛剛使用deb裝上的7.5版本的cudnn，可是程序未能找到。不知道目前有兩套相同版本的cudnn，之後會不會出問題吧。。。因此不建議使用deb安裝，位置不可控）