一种人体关键点识别方法、装置及电子设备制造方法及图纸

技术编号:23605384 阅读:26 留言:0更新日期:2020-03-28 06:18
本发明专利技术实施例提供了一种人体关键点识别方法、装置及电子设备。该方法包括:获取待识别人体关键点的目标图像;利用预先训练的神经网络模型,生成目标图像中每个人体关键点的多级热度图;所述多级热度图中各级热度图的尺寸相同且各级热度图对应的映射比值逐级放大;该神经网络模型为基于样本图像,以及样本图像中每个人体关键点的多级真值热度图,所训练得到的模型;按照预定的识别规则,基于目标图像中每个人体关键点的多级热度图,确定目标图像中的每个人体关键点的坐标。通过本方案可以实现在模型复杂度较低的情况下,保证人体关键点识别的识别精准度的目的。

A recognition method, device and electronic equipment for key points of human body

【技术实现步骤摘要】
一种人体关键点识别方法、装置及电子设备
本专利技术涉及图像处理
,特别是涉及一种人体关键点识别方法、装置及电子设备。
技术介绍
人体关键点识别是动作识别、异常行为检测、安防等的实现基础,其主要用于从给定的图像中定位人体的身体关键部位,例如头部、颈部、肩部、手部等部位。现有技术中,在识别人体关键点时,获取待识别人体关键点的目标图像,通过预先训练的神经网络模型,生成该目标图像中每个人体关键点的单张的热度图heatmap,进而,基于每个人体关键点的单张的热度图,确定每个人体关键点的坐标。其中,任一关键点的热度图为该关键点可能存在的位置的概率分布图。专利技术人在实现本专利技术的过程中发现,现有技术至少存在如下问题:人体关键点的识别精度和模型复杂度无法同时保证,具体体现在:如果关键点的识别精准度较高,那么,热度图的尺寸需要较大,这样导致所利用的神经网络模型的复杂度会较高。因此,如何在模型复杂度较低的情况下,保证人体关键点识别的识别精准度,是一个亟待解决的问题。
技术实现思路
本专利技术实施例的目的在于提供一种人体关键点识别方法、装置及电子设备,以实现在模型复杂度较低的情况下,保证人体关键点识别的识别精准度的目的。具体技术方案如下:第一方面,本专利技术实施例提供了一种人体关键点识别方法,包括:获取待识别人体关键点的目标图像;利用预先训练的神经网络模型,生成所述目标图像中每个人体关键点的多级热度图;其中,所述多级热度图中各级热度图的尺寸相同且所述各级热度图对应的映射比值逐级放大,每级热度图对应的映射比值为在横向和纵向中的每一方向上,该级热度图中像素点相对于目标图像中像素点的映射比值;所述神经网络模型为基于样本图像,以及所述样本图像中每个人体关键点的多级真值热度图,所训练得到的模型;按照预定的识别规则,基于所述目标图像中每个人体关键点的多级热度图,确定所述目标图像中的每个人体关键点的坐标;其中,所述预定的识别规则为:针对每一人体关键点,通过该人体关键点的多级热度图,从所述目标图像中逐级缩小区域以得到该人体关键点的规则。可选地,所述按照预定的识别规则,基于所述目标图像中每个人体关键点的多级热度图,确定所述目标图像中的每个人体关键点的坐标的步骤,包括:按照预定的第一计算公式,基于所述目标图像中每个人体关键点的多级热度图,确定所述目标图像中的每个人体关键点的坐标;其中,所述预定的第一计算公式包括:其中,(Ix,Iy)为人体关键点I的坐标,n为所述多级热度图的级数,hxj和hyj为所述人体关键点I的第j级热度图中取值最大的像素点的横坐标和纵坐标,hxn和hyn为所述人体关键点I的第n级热度图中取值最大的像素点的横坐标和纵坐标,为所述目标图像的横向尺寸与第n-j级热度图对应的映射比值的乘积,为所述目标图像的纵向尺寸与第n-j级热度图对应的映射比值的乘积。可选地,所述神经网络模型的训练过程包括:获取多个样本图像,以及每一样本图像中每个人体关键点的坐标;针对每一样本图像,利用该样本图像中每个人体关键点的坐标,生成该样本图像中每个人体关键点的多级真值热度图;分别将每一样本图像输入至训练中的所述神经网络模型,得到每一样本图像中每个人体关键点的多级预测热度图;基于每一样本图像中每个人体关键点的多级真值热度图与多级预测热度图的差异,计算综合损失值;基于所述综合损失值,判断训练中的所述神经网络模型是否收敛,如果收敛,结束训练,得到训练完成的所述神经网络模型;否则,调整所述神经网络模型的网络参数,继续训练所述神经网络模型。可选地,生成任一样本图像中每个人体关键点的多级真值热度图的方式包括:针对该样本图像中每一人体关键点,利用该人体关键点在该样本图像中的坐标,确定该人体关键点在各级真值热度图中的映射坐标;针对该人体关键点的待生成的每一级真值热度图,生成一个矩阵M,所述矩阵M的尺寸与该级真值热度图的尺寸相同;遍历所述矩阵M中的每一元素,在遍历到每一元素时,利用该人体关键点在该级真值热度图中的映射坐标,计算该元素与目标元素之间的距离,如果所述距离大于预定阈值,将该元素在所述矩阵M中的取值设置为0,否则,按照预定的更新方式,更新该元素在所述矩阵M中的取值,所述预定的更新方式为该元素与所述目标元素之间的距离越小,更新后的值越大;其中,所述目标元素为在该矩阵M中与该人体关键点对应的元素。可选地,所述利用该人体关键点在该样本图像中的坐标,确定该人体关键点在各级真值热度图中的映射坐标的步骤,包括:按照预定的第二计算公式,利用该人体关键点在该样本图像中的坐标,确定该人体关键点在各级真值热度图中的映射坐标;其中,所述第二计算公式为:当j=1时:当n>j>1时:当j=n时:其中,(x′i-j,y′i-j)为第j级真值热度图中人体关键点i的映射坐标;为所述目标图像的纵向尺寸与第n-j级热度图对应的映射比值的乘积,为所述目标图像横向尺寸与第n-j级热度图对应的映射比值的乘积,n为多级真值热度图的总级数;并且,j=2时,j大于2时,可选地,所述利用该人体关键点在该级真值热度图中的映射坐标,计算该元素与目标元素之间的距离的步骤,包括:按照预定的第三计算公式,利用该人体关键点在该级真值热度图中的映射坐标,计算该元素与目标元素之间的距离;所述按照预定的更新方式,更新该元素在所述矩阵M中的取值的步骤,包括:按照预定的第四计算公式,计算该元素对应的更新值,并以该更新值作为该元素在所述矩阵M中的取值;其中,所述第三计算公式包括:其中,dab为所述矩阵M中元素P(b,a)与所述目标元素之间的距离,a为所述元素P所在行的序号,b为所述元素P所在列的序号,(x′i-j,y′i-j)为该人体关键点在该级真值热度图中的映射坐标;所述第四计算公式包括:其中,M[a][b]为所述元素P的取值。第二方面,本专利技术实施例提供了一种人体关键点识别装置,包括:图像获取模块,用于获取待识别人体关键点的目标图像;热度图生成模块,用于利用预先训练的神经网络模型,生成所述目标图像中每个人体关键点的多级热度图;其中,所述多级热度图中各级热度图的尺寸相同且所述各级热度图对应的映射比值逐级放大,每级热度图对应的映射比值为在横向和纵向中的每一方向上,该级热度图中像素点相对于目标图像中像素点的映射比值;所述神经网络模型为基于样本图像,以及所述样本图像中每个人体关键点的多级真值热度图,所训练得到的模型;坐标生成模块,用于按照预定的识别规则,基于所述目标图像中每个人体关键点的多级热度图,确定所述目标图像中的每个人体关键点的坐标;其中,所述预定的识别规则为:针对每一人体关键点,通过该人体关键点的多级热度图,从所述目标图像中逐级缩小区域以得到该人体关键点的规则。...

【技术保护点】
1.一种人体关键点识别方法,其特征在于,包括:/n获取待识别人体关键点的目标图像;/n利用预先训练的神经网络模型,生成所述目标图像中每个人体关键点的多级热度图;其中,所述多级热度图中各级热度图的尺寸相同且所述各级热度图对应的映射比值逐级放大,每级热度图对应的映射比值为在横向和纵向中的每一方向上,该级热度图中像素点相对于目标图像中像素点的映射比值;所述神经网络模型为基于样本图像,以及所述样本图像中每个人体关键点的多级真值热度图,所训练得到的模型;/n按照预定的识别规则,基于所述目标图像中每个人体关键点的多级热度图,确定所述目标图像中的每个人体关键点的坐标;其中,所述预定的识别规则为:针对每一人体关键点,通过该人体关键点的多级热度图,从所述目标图像中逐级缩小区域以得到该人体关键点的规则。/n

【技术特征摘要】
1.一种人体关键点识别方法,其特征在于,包括:
获取待识别人体关键点的目标图像;
利用预先训练的神经网络模型,生成所述目标图像中每个人体关键点的多级热度图;其中,所述多级热度图中各级热度图的尺寸相同且所述各级热度图对应的映射比值逐级放大,每级热度图对应的映射比值为在横向和纵向中的每一方向上,该级热度图中像素点相对于目标图像中像素点的映射比值;所述神经网络模型为基于样本图像,以及所述样本图像中每个人体关键点的多级真值热度图,所训练得到的模型;
按照预定的识别规则,基于所述目标图像中每个人体关键点的多级热度图,确定所述目标图像中的每个人体关键点的坐标;其中,所述预定的识别规则为:针对每一人体关键点,通过该人体关键点的多级热度图,从所述目标图像中逐级缩小区域以得到该人体关键点的规则。


2.根据权利要求1所述的方法,其特征在于,所述按照预定的识别规则,基于所述目标图像中每个人体关键点的多级热度图,确定所述目标图像中的每个人体关键点的坐标的步骤,包括:
按照预定的第一计算公式,基于所述目标图像中每个人体关键点的多级热度图,确定所述目标图像中的每个人体关键点的坐标;
其中,所述预定的第一计算公式包括:






其中,(Ix,Iy)为人体关键点I的坐标,n为所述多级热度图的级数,hxj和hyj为所述人体关键点I的第j级热度图中取值最大的像素点的横坐标和纵坐标,hxn和hyn为所述人体关键点I的第n级热度图中取值最大的像素点的横坐标和纵坐标,为所述目标图像的横向尺寸与第n-j级热度图对应的映射比值的乘积,为所述目标图像的纵向尺寸与第n-j级热度图对应的映射比值的乘积。


3.根据权利要求1或2所述的方法,其特征在于,所述神经网络模型的训练过程包括:
获取多个样本图像,以及每一样本图像中每个人体关键点的坐标;
针对每一样本图像,利用该样本图像中每个人体关键点的坐标,生成该样本图像中每个人体关键点的多级真值热度图;
分别将每一样本图像输入至训练中的所述神经网络模型,得到每一样本图像中每个人体关键点的多级预测热度图;
基于每一样本图像中每个人体关键点的多级真值热度图与多级预测热度图的差异,计算综合损失值;
基于所述综合损失值,判断训练中的所述神经网络模型是否收敛,如果收敛,结束训练,得到训练完成的所述神经网络模型;否则,调整所述神经网络模型的网络参数,继续训练所述神经网络模型。


4.根据权利要求3所述的方法,其特征在于,生成任一样本图像中每个人体关键点的多级真值热度图的方式包括:
针对该样本图像中每一人体关键点,利用该人体关键点在该样本图像中的坐标,确定该人体关键点在各级真值热度图中的映射坐标;
针对该人体关键点的待生成的每一级真值热度图,生成一个矩阵M,所述矩阵M的尺寸与该级真值热度图的尺寸相同;
遍历所述矩阵M中的每一元素,在遍历到每一元素时,利用该人体关键点在该级真值热度图中的映射坐标,计算该元素与目标元素之间的距离,如果所述距离大于预定阈值,将该元素在所述矩阵M中的取值设置为0,否则,按照预定的更新方式,更新该元素在所述矩阵M中的取值,所述预定的更新方式为该元素与所述目标元素之间的距离越小,更新后的值越大;其中,所述目标元素为在该矩阵M中与该人体关键点对应的元素。


5.根据权利要求4所述的方法,其特征在于,所述利用该人体关键点在该样本图像中的坐标,确定该人体关键点在各级真值热度图中的映射坐标的步骤,包括:
按照预定的第二计算公式,利用该人体关键点在该样本图像中的坐标,确定该人体关键点在各级真值热度图中的映射坐标;
其中,所述第二计算公式为:
当j=1时:



当n>j>1时:



当j=n时:
其中,(x′i-j,y′i-j)为第j级真值热度图中人体关键点i的映射坐标;为所述目标图像的纵向尺寸与第n-j级热度图对应的映射比值的乘积,为所述目标图像横向尺寸与第n-j级热度图对应的映射比值的乘积,n为多级真值热度图的总级数;
并且,j=2时,j大于2时,


6.根据权利要求4所述的方法,其特征在于,所述利用该人体关键点在该级真值热度图中的映射坐标,计算该元素与目标元素之间的距离的步骤,包括:
按照预定的第三计算公式,利用该人体关键点在该级真值热度图中的映射坐标,计算该元素与目标元素之间的距离;
所述按照预定的更新方式,更新该元素在所述矩阵M中的取值的步骤,包括:
按照预定的第四计算公式,计算该元素对应的更新值,并以该更新值作为该元素在所述矩阵M中的取值;
其中,所述第三计算公式包括:



其中,dab为所述矩阵M中元素P(b,a)与所述目标元素之间的距离,a为所述元素P所在行的序号,b为所述元素P所在列的序号,(x′i-j,y′i-j)为该人体关键点在该级真值热度图中的映射坐标;
所述第四计算公式包括:

其中,M[a][b]为所述元素P的取值。


7.一种人体关键点识别装置,其特征在于,包括:
图像获取模块,用于获取待识别人体关键点的目标图像;
热度图生成模块,用于利用预先训练的神经网络模型,生成所述目标图像中每个人体关键...

【专利技术属性】
技术研发人员:刘思阳
申请(专利权)人:北京奇艺世纪科技有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1