? ? TensorRT是NVIDIA公司發(fā)布的用于在部署端優(yōu)化深度學(xué)習(xí)模型推斷時(shí)間(Inference Time)并降低時(shí)延(latency)的加速計(jì)算庫。在安裝TensorRT前工育，請(qǐng)先安裝
Visual Studio攀圈，本文使用的是Visual Studio 2017 Community
第一步，下載TensorRT凛篙。在NVIDIA TensorRT?頁面黍匾，點(diǎn)擊Download Now按鈕，進(jìn)入下載頁面呛梆，選擇Windows10 and CUDA9.0 zip package锐涯。為了保守起見，本文選擇了CUDA 9.0版本填物。
下載得到文件：TensorRT-5.1.5.0.Windows10.x86_64.cuda-9.0.cudnn7.5.zip
該文件表示：TensorRT的版本是5.1.5.0纹腌；運(yùn)行在Windows10平臺(tái)上，依賴庫是：cuda9.0和cudnn7.5滞磺。
第二步升薯，下載并安裝cuda9.0。在cuda頁面击困，點(diǎn)擊Download Now按鈕涎劈，進(jìn)入下載頁面，選擇Legacy Releases
第三步沛励，下載并安裝cudnn7.5责语。在cuDNN Archive下載頁面，下載cuDNN v7.5.0 for CUDA 9.0 for Windows 10目派，如下所示坤候。
下載完畢后，會(huì)得到文件：cudnn-9.0-windows10-x64-v7.5.0.56.zip企蹭。解壓后白筹，在bin文件夾里面可以發(fā)現(xiàn)cudnn64_7.dll智末。
把cudnn64_7.dll拷貝到cuda9.0的安裝目錄下bin文件夾中，本文的路徑是：C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.0\bin
第五步徒河，把TensorRT-5.1.5.0.Windows10.x86_64.cuda-9.0.cudnn7.5.zip文件解壓系馆，然后把lib文件夾下的所有dll文件拷貝到cuda9.0的安裝目錄下bin文件夾中，如第四步所示顽照。
到此由蘑，TensorRT就安裝完畢了。
測(cè)試TensorRT是否安裝成功：
在TensorRT的Samples/sampleMNIST文件下代兵，打開sample_mnist.sln尼酿，如下圖所示。
然后選中項(xiàng)目名稱植影，在右鍵菜單中選擇Build裳擎，若結(jié)果為:Build: 1 succeeded, 0 failed, 0 up-to-date, 0 skipped,證明安裝成功了。
在TensorRT的bin文件夾下思币，運(yùn)行sample_minist.exe鹿响，可以得到下圖的結(jié)果：
到此，TensorRT 5.1GA在Windows10下安裝成功
