基于YOLOv5-FGS及Mediapipe的手势识别方法、设备及介质技术

技术编号:44045999 阅读:155 留言:0更新日期:2025-01-15 01:24
本发明专利技术公开了一种基于YOLOv5‑FGS及Mediapipe的手势识别方法、设备及介质,方法包括:构建手部检测数据集,训练得到改进后的YOLOv5‑FGS手部检测模型;利用YOLOv5‑FGS手部检测模型对手势分类数据集进行手部检测,通过Mediapipe进行手部关键点检测,结合Mediapipe输出的手部关键点信息对朴素贝叶斯分类器进行训练,生成手势分类模型;对待检测的视频图像,先通过YOLOv5‑FGS手部检测模型进行单帧检测,定位手部位置,再过Mediapipe进行手部关键点检测,处理得到的手部关键点特征通过手势分类模型检测输出最终的手势目标定位结果和分类结果。

【技术实现步骤摘要】

本专利技术涉及人工智能,尤其涉及一种基于yolov5-fgs及mediapipe的手势识别方法、设备及介质。


技术介绍

1、手势识别可大致分为基于传感器的手势识别方法和基于计算机视觉的手势识别方法,基于传感器的手势识别方法具有较高的准确率,但它严重依赖于外部硬件设备,需要投入大量成本。由于基于传感器的手势识别方法存在成本较高的局限性,许多学者开始把目光聚焦到基于计算机视觉的手势识别方法。基于视觉的手势识别方法主要分为分割手势、分析手势、识别手势这几个步骤。

2、传统的基于视觉的手势识别方法一般先利用分割算法从复杂的背景中分离出手势,再根据图像处理算法得到的信息来提取特征,如梯度方向直方图(hog)算法、尺度不变特征变换(sift)算法、局部二值模式(lbp)算法等;之后结合机器学习的分类器,如支持向量机(svm)、自适应增强(adaboost)等进行分类。但这类方法在复杂背景下鲁棒性差、识别精度低。

3、随着计算机视觉领域的发展,使用深度学习来进行手势识别已经成为热门趋势,与传统手势识别方法相比,基于深度学习的手势识别方法在复杂背景本文档来自技高网...

【技术保护点】

1.一种基于YOLOv5-FGS及Mediapipe的手势识别方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于YOLOv5-FGS及Mediapipe的手势识别方法,其特征在于,所述步骤S1中,手部检测数据集构建过程包括:将包括18类常见手势和一个无关手势的图像数据集进行处理,得到只包含有关手势和无关手势的二分类数据集,有关手势和无关手势比例为3∶1,二分类数据集进行数据处理,将二分类数据集中的图像调整为640*640尺寸的图像,得到最终的手部检测数据集。

3.根据权利要求1所述的一种基于YOLOv5-FGS及Mediapipe的手势识别方法,其...

【技术特征摘要】

1.一种基于yolov5-fgs及mediapipe的手势识别方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于yolov5-fgs及mediapipe的手势识别方法,其特征在于,所述步骤s1中,手部检测数据集构建过程包括:将包括18类常见手势和一个无关手势的图像数据集进行处理,得到只包含有关手势和无关手势的二分类数据集,有关手势和无关手势比例为3∶1,二分类数据集进行数据处理,将二分类数据集中的图像调整为640*640尺寸的图像,得到最终的手部检测数据集。

3.根据权利要求1所述的一种基于yolov5-fgs及mediapipe的手势识别方法,其特征在于:所述步骤s1中,改进后的yolov5-fgs手部检测模型结构包括:先利用fastnet网络对原始yolov5网络中的c3模型进行重构得到c3fast模型,使用c3fast替换原始yolov5网络中的c3模块;再使用ghost卷积模块替换yolov5网络的cbs模块(第一层的cbs模块除外);最后将se注意力机制模块加入yolov5特征提取网络的末端。

4.根据权利要求1所述的一种基于yolov5-fgs及mediapipe的手势识别方法,其特征在于:所述步骤s2中,手部关键点特征处理过程包括:mediapipe进行手部关键点检测...

【专利技术属性】
技术研发人员:徐华倪广兴徐睿韬王超
申请(专利权)人:盐城师范学院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1