对象识别方法、装置、可读介质及电子设备制造方法及图纸

技术编号:38257906 阅读:27 留言:0更新日期:2023-07-27 10:20
本公开涉及一种对象识别方法、装置、可读介质和电子设备,可以获取待识别的目标对象;将所述目标对象输入目标识别模型后,得到识别结果;所述目标识别模型为根据投影矩阵、第一特征图以及第二特征图对目标知识接受模型进行模型训练后得到的识别模型;所述第一特征图为预先训练得到的目标知识输出模型的至少一个第一预设中间层输出的特征图,所述第二特征图为预先训练得到的所述目标知识接受模型的至少一个第二预设中间层输出的特征图;所述投影矩阵用于对所述第一特征图和所述第二特征图进行知识蒸馏。图进行知识蒸馏。图进行知识蒸馏。

【技术实现步骤摘要】
对象识别方法、装置、可读介质及电子设备


[0001]本公开涉及计算机
,具体地,涉及一种对象识别方法、装置、可读介质及电子设备。

技术介绍

[0002]随着深度学习的发展,深度神经网络在学术界和工业界受到了越来越多的重视,并且得到了广泛的应用。例如,可以基于深度学习模型实现语音识别以及图像的目标检测等。
[0003]一般来说,深度神经网络的计算量和参数量越多,也即模型越大,其学习能力就越强,越能拟合实际的业务数据。然而,受限于硬件设备,神经网络模型不能无限变大。因此,需要设计一个小模型,保持较小的参数量和计算量。但是小模型的学习能力相对较差,为了解决该问题,可以采用知识蒸馏算法,在训练小模型的时候,引入大模型的相关参数作为小模型的正则化约束项,从而实现将大模型的知识蒸馏给小模型,使得小模型的识别精度和学习能力得以提高。

技术实现思路

[0004]提供该部分内容以便以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。该部分内容并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种对象识别方法,其特征在于,所述方法包括:获取待识别的目标对象;将所述目标对象输入目标识别模型后,得到识别结果;所述目标识别模型为根据投影矩阵、第一特征图以及第二特征图对目标知识接受模型进行模型训练后得到的识别模型;所述第一特征图为预先训练得到的目标知识输出模型的至少一个第一预设中间层输出的特征图,所述第二特征图为预先训练得到的所述目标知识接受模型的至少一个第二预设中间层输出的特征图;所述投影矩阵用于对所述第一特征图和所述第二特征图进行知识蒸馏。2.根据权利要求1所述的方法,其特征在于,根据所述投影矩阵、第一特征图以及第二特征图对目标知识接受模型进行模型训练后,得到所述目标识别模型包括:获取预设知识接受模型对应的第一损失函数,所述预设知识接受模型为与所述目标知识接受模型对应的待训练知识接受模型;根据所述投影矩阵、所述第一特征图以及所述第二特征图对所述第一损失函数进行优化,得到第二损失函数,所述第二损失函数用于对所述目标知识接受模型进行模型训练;根据所述目标对象对应的训练样本通过所述第二损失函数对所述目标知识接受模型进行模型训练后,得到所述目标识别模型。3.根据权利要求2所述的方法,其特征在于,所述根据所述投影矩阵、所述第一特征图以及所述第二特征图对所述第一损失函数进行优化,得到第二损失函数包括:针对于所述至少一个第二预设中间层中的每个第二预设中间层,从所述至少一个第一预设中间层中确定所述第二预设中间层对应的第一目标中间层;针对于每个所述第一目标中间层,获取所述第一目标中间层对应的目标投影矩阵,并根据所述目标投影矩阵、所述第一目标中间层输出的第一目标特征图以及对应于所述第一目标中间层的所述第二预设中间层输出的第二目标特征图,确定所述第一目标中间层对应的损失函数约束项;将每个所述第一目标中间层分别对应的所述损失函数约束项与所述第一损失函数的和作为所述第二损失函数。4.根据权利要求3所述的方法,其特征在于,所述根据所述目标投影矩阵、所述第一目标中间层输出的第一目标特征图以及对应于所述第一目标中间层的所述第二预设中间层输出的第二目标特征图,确定所述第一目标中间层对应的损失函数约束项包括:将所述目标投影矩阵和第一特征图矩阵的乘积作为第一矩阵,所述第一特征图矩阵为所述第一目标特征图对应的特征图矩阵;将所述目标投影矩阵和第二特征图矩阵的乘积作为第二矩阵,所述第二特征图矩阵为所述第二目标特征图对应的特征图矩阵,所述第一矩阵和所述第二矩阵的特征维度均为预设特征维度,所述预设特征维度小于初始特征维度,所述初始特征维度为所述第一目标特征图对应的特征图维度;获取所述第一目标特征图的形状属性参数;根据所述预设特征维度、所述形状属性参数、所述第一矩阵以及所述第二矩阵确定所述损失函数约束项。5.根据权利要求1

4任一项所述的方法,其特征在于,...

【专利技术属性】
技术研发人员:郭义何义乾李晓阳禹梓林秦浩桐张阳马泽君
申请(专利权)人:北京有竹居网络技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1