System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及图形数据读取、分析,尤其涉及一种手势识别方法、装置及电子设备。
技术介绍
1、手势交互做为一种自然的人机交互方法,相对于使用键盘、鼠标、触摸屏等介质进行交互,具有便捷、灵活、直观的特点。
2、手势交互得以进行的前提条件是精准地对手势进行识别。目前的手势识别主要分为基于可穿戴式设备的手势识别和基于图像的手势识别,前者通过操作者佩戴集成有传感器的手套等设备来进行手势识别,后者一般通过rgb摄像头或rgb-深度摄像头对手势进行识别,相较于前者,其优势是识别为非接触式的,使用起来更加灵活方便。
3、大多数基于图像的微纳无人系统手势识别方法为基于深度学习的目标检测或图像分类手势识别方法,这些方法通常需要在模型训练阶段采集大量图像样本,并在样本采集时就规定好需要识别的手势,如果想实现新手势的识别,则必须新采集一批含有该手势的样本,此类方法为实际使用带来不便。
4、且,目前基于手部关键点的手势识别方法是基于二维关键点进行识别的,但二维关键点包含的信息是有限的,当手势与摄像头之间的距离或角度发生变化时,存在对手势无法准确识别的问题,即手势识别不精准导致识别的成功率不高。
5、因此,如何提高手势识别的准确率,进而提高成功率,是一个需要解决的技术问题。
技术实现思路
1、本专利技术的目的是提供一种手势识别方法、装置,为解决现有技术中手势识别的准确率不高的技术问题。
2、为解决上述技术问题,第一方面,根据一些实施例,本专利技术提供
3、获取图像,确定所述图像中的手部区域;
4、根据深度学习的轻量化关键点回归算法,计算出所述手部区域中的手部关键点的三维坐标值;
5、对所述手部关键点三维坐标值进行标准化处理,得到标准化坐标值;
6、根据机器学习方法,将所述标准化坐标值作为特征提取模型的输入,获得手势特征向量;
7、将所述手势特征向量与已存储的手势特征向量进行相似度识别,根据识别后的结果,确定所述图像中的手势与所述已存储的手势特征向量是否相匹配;
8、其中,所述手部关键点的三维坐标,包括所述手部关键点的平面信息及对应的所述手部关键点的深度信息。
9、在一些实施例中,所述根据深度学习的关键点回归算法,计算出所述手部区域中的手部三维关键点坐标值,具体包括:
10、将所述图像中的手部区域中的图像的像素值,归一化至[0.0,1.0]范围内;
11、将归一化后的图像,输入卷积神经网络提取手部特征;
12、将所述提取的手部特征,作为所述深度学习的关键点回归算法的输入,得到三维关键点坐标{px1,py1,pz1,......,pxn,pyn,pzn};
13、其中,所述n为大于等于1的正整数,表示手部关键点的数量,所述pxn,表示第n个关键点的横轴坐标,pyn,表示第n个关键点的纵轴坐标,pzn,表示第n个关键点的竖轴坐标。
14、在一些实施例中,所述对所述手部关键点三维坐标值进行标准化处理,得到标准化坐标值,具体包括:
15、对获取到的所述手部关键点的三维坐标值,进行尺度归一化处理及角度对齐处理后,得到所述标准化坐标值。
16、在一些实施例中,所述对获取到的所述关键点的三维坐标值,进行尺度归一化处理及角度对齐处理后,得到所述标准化坐标值,具体包括:
17、所述手部关键点,至少包括手腕部的关键点、中指根部关键点、无名指根部关键点;
18、调整所述手部关键点,使得所述手腕部关键点位于坐标轴原点;
19、连接所述手腕部关键点与所述中指根部关键点,得到向量a;调整所述手部关键点,使得所述向量a与x轴正向对齐;
20、连接所述食指根部关键点与所述无名指根部关键点,得到向量b;调整所述手部关键点,使得所述向量b与y轴正向对齐;
21、将所有的所述手部三维坐标坐标点除以向量a的模长,得到所述标准化坐标值{psx1,psy1,psz1,......,psxn,psyn,pszn};
22、其中,所述n为大于等于1的正整数,表示手部关键点的数量,所述调整所述手部的关键点,是指通过平移和/或旋转全部所述手部的关键点,所述手部的关键点之间的相对位置关系不发生变化。
23、在一些实施例中,所述将所述手势特征向量与已存储的手势特征向量进行相似度识别,具体包括:
24、将所述图像中获得的所述手势特征向量,与已存储的每个手势特征向量进行相似度计算,获得每个手势特征向量与所述手势特征向量的相似度结果;
25、在所述相似度结果中,确定出相似度最高的第一相似度结果;
26、确定所述第一相似度结果大于等于预设的相似度阈值时,确定识别结果为所述手势特征向量与所述第一相似度结果对应的手势特征向量相匹配。
27、在一些实施例中,所述将所述图像中获得的所述手势特征向量,与已存储的每个手势特征向量进行相似度计算,获得每个手势特征向量与所述手势特征向量的相似度结果,具体包括:
28、计算所述图像中获得的所述手势特征向量fa,与已存储的手势特征向量的模板库内所有的m个特征向量模板的相似度,获得m个特征向量模板的相似度集合{s1,......,sm};
29、获得的所述相似度集合{s1,......,sm},作为每个手势特征向量与所述手势特征向量的相似度结果;
30、其中,所述m为大于等于1的正整数,表示所述已存储的手势特征向量的数量。
31、在一些实施例中,所述在所述相似度结果中,确定出相似度最高的第一相似度结果,具体包括:
32、遍历所述m个特征向量模板的相似度集合{s1,......,sm}中的每个元素,将所述相似度集合中相似度最高的元素smax,作为所述第一相似度结果。
33、在一些实施例中,确定所述图像中的手势与所述已存储的手势特征向量是否相匹配之后,还包括:
34、确定所述手势特征向量与当前已存储的手势特征向量相匹配时,判断所述已存储的手势特征向量是否有绑定有交互指令;
35、确定所述已存储的手势特征向量有绑定交互指令时,执行所述交互指令。
36、在一些实施例中,在确定所述已存储的手势特征向量有绑定交互指令之后,在执行所述交互指令之前,还包括:
37、判断所述已存储的手势特征向量被匹配成功的次数,是否大于预设的次数;
38、若否,结束当前流程。
39、在一些实施例中,所述已存储的手势特征向量被匹配成功的次数,是指连续若干次的识别结果指向所述已存储的手势特征向量的次数。
40、在一些实施例中,所述已存储的手势特征向量,是在手势注册模式下生成的。
41、在一些实施例中,所述手势注册模式的生成过程,具体包括:
42、根据获取到待绑定的人手本文档来自技高网...
【技术保护点】
1.一种手势识别方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述根据深度学习的关键点回归算法,计算出所述手部区域中的手部三维关键点坐标值,具体包括:
3.根据权利要求1所述的方法,其特征在于,所述对所述手部关键点三维坐标值进行标准化处理,得到标准化坐标值,具体包括:
4.根据权利要求3所述的方法,其特征在于,所述对获取到的所述关键点的三维坐标值,进行尺度归一化处理及角度对齐处理后,得到所述标准化坐标值,具体包括:
5.根据权利要求1所述的方法,其特征在于,所述将所述手势特征向量与已存储的手势特征向量进行相似度识别,具体包括:
6.根据权利要求5所述的方法,其特征在于,所述将所述图像中获得的所述手势特征向量,与已存储的每个手势特征向量进行相似度计算,获得每个手势特征向量与所述手势特征向量的相似度结果,具体包括:
7.根据权利要求6所述的方法,其特征在于,所述在所述相似度结果中,确定出相似度最高的第一相似度结果,具体包括:
8.根据权利要求1所述的方法,其特征在于,确定所述图像
9.根据权利要求8所述的方法,其特征在于,在确定所述已存储的手势特征向量有绑定交互指令之后,在执行所述交互指令之前,还包括:
10.根据权利要求9所述的方法,其特征在于,所述已存储的手势特征向量被匹配成功的次数,是指连续若干次的识别结果指向所述已存储的手势特征向量的次数。
11.根据权利要求1所述的方法,其特征在于,所述已存储的手势特征向量,是在手势注册模式下生成的。
12.根据权利要求11所述的方法,其特征在于,所述手势注册模式的生成过程,具体包括:
13.根据权利要求12所述的方法,其特征在于,所述将所述交互指令与所述图像中的手势特征向量ft=(xt1,......,xtn)相关联,具体包括:
14.根据权利要求13所述的方法,其特征在于,不同的手势特征向量,对应同一所述交互指令。
15.根据权利要求1所述的方法,其特征在于,所述根据机器学习方法,将所述标准化坐标值作为特征提取模型的输入,获得手势特征向量,具体包括:
16.根据权利要求1所述的方法,其特征在于,所述图像为RGB图像,或者含有深度信息的RGB-D图像。
17.根据权利要求1所述的方法,其特征在于,所述确定所述图像中的手部区域,具体包括:
18.根据权利要求1所述的方法,其特征在于,所述确定所述图像中的手部区域,具体包括:
19.根据权利要求7所述的方法,其特征在于,所述根据深度学习的轻量化目标检测模型,确定所述图像中的手部区域,具体包括:
20.根据权利要求1所述的方法,其特征在于,在确定所述图像中的手部区域后,在根据深度学习的关键点检测算法,计算出所述手部区域中的手部关键点三维坐标值之前,还包括:
21.根据权利要求20所述的方法,其特征在于,在对所述图像进行裁切,获得至少一个只包含手部区域的图像之后,还包括:
22.一种手势识别装置,其特征在于,包括:
23.一种电子设备,其特征在于,包括:相互耦合的非易失性存储器和处理器,所述处理器调用存储在所述存储器中的程序代码以执行如权利要求1-21中任一项所述的方法。
24.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有程序代码,所述程序代码包括用于处理器执行如权利要求1-21中任一项所述方法的指令。
...【技术特征摘要】
1.一种手势识别方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述根据深度学习的关键点回归算法,计算出所述手部区域中的手部三维关键点坐标值,具体包括:
3.根据权利要求1所述的方法,其特征在于,所述对所述手部关键点三维坐标值进行标准化处理,得到标准化坐标值,具体包括:
4.根据权利要求3所述的方法,其特征在于,所述对获取到的所述关键点的三维坐标值,进行尺度归一化处理及角度对齐处理后,得到所述标准化坐标值,具体包括:
5.根据权利要求1所述的方法,其特征在于,所述将所述手势特征向量与已存储的手势特征向量进行相似度识别,具体包括:
6.根据权利要求5所述的方法,其特征在于,所述将所述图像中获得的所述手势特征向量,与已存储的每个手势特征向量进行相似度计算,获得每个手势特征向量与所述手势特征向量的相似度结果,具体包括:
7.根据权利要求6所述的方法,其特征在于,所述在所述相似度结果中,确定出相似度最高的第一相似度结果,具体包括:
8.根据权利要求1所述的方法,其特征在于,确定所述图像中的手势与所述已存储的手势特征向量是否相匹配之后,还包括:
9.根据权利要求8所述的方法,其特征在于,在确定所述已存储的手势特征向量有绑定交互指令之后,在执行所述交互指令之前,还包括:
10.根据权利要求9所述的方法,其特征在于,所述已存储的手势特征向量被匹配成功的次数,是指连续若干次的识别结果指向所述已存储的手势特征向量的次数。
11.根据权利要求1所述的方法,其特征在于,所述已存储的手势特征向量,是在手势注册模式下生成的。
12.根据权利要求11所述的方法,其特征在于,所述手势注册模式的生成过程,具体包括...
【专利技术属性】
技术研发人员:尤政,丁皓伦,纪兴龙,戴宇翔,浦一雯,史慧宇,韩毓,邢飞,鲁文帅,
申请(专利权)人:启元实验室,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。