hopef/tensorrt-pro repository overview

• https://github.com/shouxieai/tensorRT_Pro⁠ 项目的docker环境

• 内部包括了

  • ros1
  • pytorch1.9
  • anaconda3(python3.9)
  • tensorRT_Pro
  • vscode
  • pycharm
  • cuda11.2/cudnn8.2.2.26
  • opencv-4.2.0
  • protobuf3.11.4
  • TensorRT8.0.3.4.cuda11.3.cudnn8.2

• 欢迎star，欢迎去：https://github.com/shouxieai/tensorRT_Pro⁠ 点star

⁠使用方式-基于docker pull：

1. docker pull hopef/tensorrt-pro
2. 下载data.tar.gz
   • 链接：https://pan.baidu.com/s/18hZI5MkRaFaRrGkp0wxW-Q⁠
   • 提取码：tehe
   • 注意只需要下载data.tar.gz、create_container.sh，不需要下载template.tar（该文件与pull下来是一样的效果）
3. 解压数据
   • cd <myfolder>切换到你自己的目录中，里边有data.tar.gz，注意目录下的data会被挂载并固定，所以准备好放置位置就不会动的那种
   • sudo tar -zxf data.tar.gz，注意需要sudo权限，否则会有问题
4. 创建容器
   • sudo bash create_container.sh，也需要sudo权限，因为有些人docker是sudo的。会提示让你输入镜像名称（给hopef/tensorrt-pro），容器名称和端口前缀
   • 所谓端口前缀，即会开通的3个端口，vnc端口、ssh端口、web端口，会以前缀为主例如前缀=111，则ssh端口是11122，vnc是11190
   • 这个步骤必须要nvidia-container-runtime，需要配置安装，请百度查找资料，否则会不正确

⁠使用方式-基于网盘下载：

1. 下载镜像和数据
   • 链接：https://pan.baidu.com/s/18hZI5MkRaFaRrGkp0wxW-Q⁠
   • 提取码：tehe
   • 需要下载全部文件
   • data.tar.gz是数据盘，里面有cuda、cudnn、tensorRT、project等依赖项，而template.tar是通过docker export template > template.tar导出的镜像
2. 解压数据并且加载镜像
   • cd <myfolder>切换到你自己的目录中，里边有data.tar.gz、template.tar，注意目录下的data会被挂载并固定，所以准备好放置位置就不会动的那种
   • sudo bash install_image.sh，注意需要sudo权限，否则会有问题，这里会解压并导入镜像。请自行设定镜像名称
3. 创建容器
   • sudo bash create_container.sh，也需要sudo权限，因为有些人docker是sudo的。会提示让你输入镜像名称（给hopef/tensorrt-pro），容器名称和端口前缀
   • 所谓端口前缀，即会开通的3个端口，vnc端口、ssh端口、web端口，会以前缀为主例如前缀=111，则ssh端口是11122，vnc是11190
   • 这个步骤必须要nvidia-container-runtime，需要配置安装，请百度查找资料，否则会不正确

⁠怎么用？

⁠SSH

• 可以通过ssh连接他使用，端口是创建容器时指定的${port_prefix}22，例如11122
• 这势必是可以用vscode连接他，不是么
• 帐号root，密码123

⁠VNC

• 带桌面界面的，可以下载VNC Viewer（注意不是Server），然后连接他，方式是 ip:port，ip自行给，port则是${port_prefix}90，例如11190，例如: 192.168.16.12:11190，密码是123
• 如果要修改，请直接进入容器后cat /startup.sh，可以看到第一行就是写了密码，修改他重启后生效

⁠C++

• 这里面配置了tensorRT_Pro的环境，在/datav/projects/tensorRT_Pro，直接在里面make yolo -j64，当然你需要确认Makefile的 cuda arch是否配置为你当前显卡一样的compute_75之类的值，然后你就可以愉快的调试工作了

⁠如何修改分辨率？

• 进入容器，在终端执行: vim /usr/local/bin/xvfb.sh
• 这里的：exec /usr/bin/Xvfb :1 -screen 0 1920x1080x24，就是分辨率的值
• 1920x1080x24即1920x1080分辨率，帧率是24Hz
• 修改好后，保存，然后重新启动容器再连接上即可

⁠关于环境变量

• 默认没有配置CUDA_HOME、LD_LIBRARY_PATH
• 如果在/datav/projects/tensorRT_Pro下执行make yolo -j64，环境变量配置在Makefile中有export LD_LIBRARY_PATH:=xxx
• 如果用cmake进行编译运行，则需要手动把/datav/lean中的cuda等依赖库手动加入到~/.bashrc中，写下LD_LIBRARY_PATH等，否则会提示找不到cuda、cudnn等文件

⁠关于TensorRT_Pro

• 工程在/datav/projects/tensorRT_Pro目录下
• 请先配置cuda-arch，
  • Makefile
    • 即: Makefile中的第6行 cuda_arch := -gencode=arch=compute_75,code=sm_75
  • CMakeLists.txt
    • 即：CMakeLists.txt第16行set(CUDA_GEN_CODE "-gencode=arch=compute_75,code=sm_75")
  • 修改为自己GPU的号码，参考：https://developer.nvidia.com/zh-cn/cuda-gpus#compute⁠
• 然后清理掉目录下的残余模型：rm workspace/*.trtmodel
• 再进行编译运行：make yolo -j64