libtorch部署yolov5

一、环境

  • Ubuntu 16.04
  • CUDA 10.2
  • OpenCV 3.4.12
  • LibTorch 1.7.0 (gpu)
  • Pytorch 1.7.0

二、得到yolov5 的权重模型

https://github.com/ultralytics/yolov5/blob/master/models/export.py
我使用的是3.0版本
用export.py生成的pt文件既可,但是默认是使用CPU的,使用GPU需要修改。

提示:用的coremltools==4.0版本,之前我有升级到4.1版本运行export.py会报错,用回4.0

用GPU修改如下:

#img = torch.zeros((opt.batch_size, 3, *opt.img_size))  # image size(1,3,320,192) iDetection
img = torch.zeros((opt.batch_size, 3, *opt.img_size)).to(device='cuda')

#model = torch.load(opt.weights, map_location=torch.device('cpu'))['model'].float()
 model = torch.load(opt.weights, map_location=torch.device('cuda'))['model'].float()
 
#model.model[-1].export = True 
 model.model[-1].export = False

在终端运行:

python models/export.py --weights yolov5s.pt --img 640 --batch 1  

三、编译运行libtorch-yolov5

git 工程 https://github.com/yasenh/libtorch-yolov5/

cd /path/to/libtorch-yolo5

wget https://download.pytorch.org/libtorch/cu102/libtorch-cxx11-abi-shared-with-deps-1.7.0.zip

unzip libtorch-cxx11-abi-shared-with-deps-1.6.0.zip

mkdir build && cd build

cmake .. && make

各个libtorch版本:https://blog.csdn.net/lxx4610/article/details/105806017/

把yolov5工程中生成的pt文件复制到libtorch-yolov5的weights文件夹

编译成功后在终端运行:

./libtorch-yolov5 --source ../images/bus.jpg --weights ../weights/yolov5s.torchscript.pt --gpu --view-img

由于原来我用的opencv 版本是3.4.2
报错:核心转储

terminate called after throwing an instance of ‘cv::Exception’
what(): OpenCV(3.4.2) /tmp/build/80754af9/opencv-suite_1535558553474/work/modules/highgui/src/window.cpp:615: error: (-2:Unspecified error) The function is not implemented. Rebuild the library with Windows, GTK+ 2.x or Carbon support. If you are on Ubuntu or Debian, install libgtk2.0-dev and pkg-config, then re-run cmake or configure script in function ‘cvNamedWindow’

四、opencv源码编译

重新下载opencv源码编译
https://opencv.org/releases/
这次我下载了高版本4.3.0
这个版本可能是高了,也报错。
最后还是改成了3.4.12

unzip opencv-3.4.12.zip
cd opencv--3.4.12

mkdir build && cd build
cmake -D CMAKE_BUILD_TYPE=RELEASE -D OPENCV_GENERATE_PKGCONFIG=ON -D CMAKE_INSTALL_PREFIX=/usr/local/opencv3.4.12 ..
make -j4
sudo make install

编译安装过程很顺利
在这里插入图片描述
在这里插入图片描述

这时需要重新编译libtorch-yolov5工程:
修改CMakeLists.txt 文件

#find_package(OpenCV REQUIRED)
#修改成

set(OpenCV_DIR "/usr/local/opencv3.4.12/") 
find_package(OpenCV 3.4.12 REQUIRED)

在这里插入图片描述
在这里插入图片描述

五、运行结果

编译过后在终端中运行显示结果:

./libtorch-yolov5 --source ../images/bus.jpg --weights ../weights/yolov5s.torchscript.pt --gpu --view-img

在这里插入图片描述

版权声明:本文为CSDN博主「yx868xy」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/yx868yx/article/details/117508782

yx868xy

我还没有学会写个人说明!

暂无评论

发表评论

相关推荐

Yolo-V5目标检测 项目实战

引言本文将一步一步的指导训练 Yolo-v5并进行推断来计算血细胞并定位它们。我曾试图用 Yolo v3-v4做一个目标检测模型,在显微镜下用血液涂抹的图像上计算红细胞、白细胞和血小板,但是我没有得到我想要的准确度&

YOLOV5 网络模块解析

YOLOV5:训练自己数据集 YOLOV5:Mosaic数据增强 YOLOV5 :网络结构 yaml 文件参数理解 前言 【个人学习笔记记录,如有错误,欢迎指正】 YOL