使用cuda和tensorrt加速对比-C++部署pytorch模型
1.网络模型和数据
SSD网络,图片大小(w,h)(480, 640)
SSD检测结果 2.cuda加速
处理一张图片的时间
[ 0 ] 695.201 ms.
[ 1 ] 42.9589 ms.
[ 2 ]
1.网络模型和数据
SSD网络,图片大小(w,h)(480, 640)
SSD检测结果 2.cuda加速
处理一张图片的时间
[ 0 ] 695.201 ms.
[ 1 ] 42.9589 ms.
[ 2 ]
系统环境:
ubuntu 1804
cuda11.3
tensorrt 8.2.06
显卡2080
pytorch 1.10.0
onnx 1.10.2
onnx-simplifier 0.3.6
步骤1ÿ
目录
0.引言
1.yolov5模型训练
1.2 模型训练
1.3 模型测试
2 模型转换
2.1 pt→wts→engine
2.1.1 pt转wts
2.1.2 wts转engine 3 动态库打包 0.引言 本人配置&#x
目录
一、概述
1.1 深度学习和边缘计算
1.2 Jetson Nano简介
二、深度学习环境安装
2.1 Pytorch框架
2.2 在Jetson Nano上安装Pytorch
三、算法原理
四、具体实现步骤
4.1 工