TensorRTインストールおよび使用チュートリアル

参照先:https://blog.csdn.net/zong596568821xp/article/details/86077553
一、TensorRTインストール
公式サイト
ピット:
(1)自分のcudaのインストール方式によって自分でdebをダウンロードするかtarファイルをダウンロードするかを選択する
(2)ダウンロードリンクに対応するcudaバージョンおよびオペレーティングシステムが明記されている
(3)ダウンロード後のファイル名に明記されている必要なcuDNNのバージョンは、必要に応じて自分でダウンロードする
(4)参考ブログのバージョンはpython 3にのみサポートされている.5,python3.6以上のバージョンではサポートされていません.インストールに成功したと表示されても、python 3を使用するとimport tensorrtでエラーが発生します.6バージョン、最新バージョンtensorrt 5.1.5.0をダウンロードすることをお勧めします.python 3にもサポートされているようです.7.
インストール手順を添付します.

tar xzvf TensorRT-5.1.5.0.Ubuntu-16.04.4.x86_64-gnu.cuda-9.0.cudnn7.5.tar
 
#    TensorRT-5.0.2.6    ，    lib            
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/lthpc/tensorrt_tar/TensorRT-5.1.5.0/lib
 
#  TensorRT
cd TensorRT-5.0.2.6/python
#if python2
sudo pip2 install tensorrt-5.1.5.0-py2.py3-none-any.whl
#if python3
sudo pip3 install tensorrt-5.1.5.0-py2.py3-none-any.whl
 
#  UFF
cd TensorRT-5.0.2.6/uff
#if python2
sudo pip2 install uff-0.6.3-py2.py3-none-any.whl
#if python3
sudo pip3 install uff-0.6.3-py2.py3-none-any.whl
 
#  graphsurgeon
cd TensorRT-5.0.2.6/graphsurgeon
#if python2
sudo pip2 install graphsurgeon-0.4.1-py2.py3-none-any.whl
#if python3
sudo pip3 install graphsurgeon-0.4.1-py2.py3-none-any.whl

テスト:

python
import tensorflow
import tensorrt
import uff

エラーを報告しないとインストールに成功します.
CuDNNの交換方法を添付します.
対応するバージョンのcuDNNをダウンロード

sudo rm -rf /usr/local/cuda/include/cudnn.h
sudo rm -rf /usr/local/cuda/lib64/libcudnn*

sudo cp include/cudnn.h /usr/local/cuda/include/
sudo cp lib64/lib* /usr/local/cuda/lib64/


cd /usr/local/cuda/lib64/
sudo chmod +r libcudnn.so.7.3.1
sudo ln -sf libcudnn.so.7.3.1 libcudnn.so.7
sudo ln -sf libcudnn.so.7 libcudnn.so   
sudo ldconfig  

テスト:

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

対応するバージョンが正常に交換されたかどうかを確認できます.