UbuntuTensorrt安装教程
Ubuntu Tensorrt安装教程
1、下载tensorrt
本⽂安装采⽤的是tar压缩包进⾏安装,安装环境为:Ubuntu18.04、cuda11.0、cudnn8.04、python3.6,tensorrt的安装包下载链接: .,根据⾃⼰的电脑环境下载合适的安装包,安装tensorrt之前需要安装cuda和cudnn。
下图是7.2.1版本的安装包下载界⾯:
2、安装tensorrt
这⾥给出官⽅的安装教程链接: .
直接使⽤官⽅安装教程时会安装不上,可以参考以下安装教程
1、将下载好的压缩⽂件进⾏解压,在终端执⾏以下命令,双引号中的内容根据⾃⼰下载的⽂件进⾏替换
version=""
os="os"
arch=$(uname -m)
cuda="cuda-x.x"
cudnn="cudnn8.x"
tar xzvf TensorRT-${version}.${os}.${arch}-gnu.${cuda}.${cudnn}.
#7.xxx是您的TensorRT版本
#os是:Ubuntu-16.04或Ubuntu-18.04
#arch直接复制不需要改动
#CUDA-XX 是CUDA版本 10.2, 11.0,要么 11.1
ubuntu安装教程#cudnn8.x 是cuDNN版本 8.0
2、将绝对路径添加到TensorRTLIB ⽬录到环境变量 LD_LIBRARY_PATH
#使⽤以下命令打开.bashrc⽂件
sudo gedit ~/.bashrc
#解压得到TensorRT-7.2.1.6的⽂件夹,将⾥边的lib绝对路径添加到环境变量中,⽤户名和TensorRT的版本号更换为⾃⼰的
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/lig/TensorRT-7.2.1.6/lib
#保存⽂件并退出,执⾏以下命令,使路径⽣效
source ~/.bashrc
3、安装Python TensorRT wheel⽂件
cp3x的x代表python的版本,如下图,cp34代表Python版本为3.4,这个需要根据⾃⼰电脑安装的Python版本进⾏选择,选择错误会报错,⼤概意思是说tensorrt不能在这个平台上安装
特别注意:
如果你想把tensorrt安装到系统的python中,需要使⽤pip3;如果想装到anconda的python环境中,直接使⽤pip,博主是安装到anconda环境中,所以后续默认都使⽤pip
cd TensorRT-${version}/python
sudo pip install tensorrt-7.2.1.6-cp3x-none-linux_x86_64.whl
4、安装Python UFF wheel⽂件。只有当你将TensorRT与TensorFlow⼀起使⽤时才需要安装这个⽂件
cd TensorRT-${version}/uff
sudo pip install uff-0.6.9-py2.py3-none-any.whl
5、安装Python graphsurgeon whl⽂件
cd TensorRT-${version}/graphsurgeon
sudo pip install graphsurgeon-0.4.5-py2.py3-none-any.whl
6、安装Python onnx-graphsurgeon whl⽂件
cd TensorRT-${version}/onnx_graphsurgeon
sudo pip install onnx_graphsurgeon-0.2.6-py2.py3-none-any.whl
如果你的电脑没有安装cmake,安装这个⽂件时会报不到cmake这个模块的错误,使⽤以下命令安装cmake,pip默认安装到anconda,pip3默认安装到系统⾃带的python环境中。
pip install -i pypi.tuna.tsinghua.edu/simple cmake
7、验证安装
终端进⼊python环境,输⼊import tensorrt,打印出tensorrt版本,即安装成功
⽰例都在samples⽂件夹,⾥⾯有c++和python⽰例
a、⽣成并运⾏其中⼀个样本,例如, 样本sampleMNIST,⽰例运⾏⽅法都在README.md⽂件中
b、Python⽰例位于 sampels/ python ⽬录(提⽰没有pycuda时,参考第8条)
8、安装pycuda
pip install 'pycuda>=2019.1.1'