一种模型训练方法及相关装置制造方法及图纸

技术编号:40007401 阅读:23 留言:0更新日期:2024-01-16 14:44
一种模型训练方法,应用于人工智能技术领域。在该模型训练方法中,通过对同一个模型进行不同的裁剪,得到大小不同的多个模型。在对多个模型进行训练的过程中,得到多个模型中各个模型对应的一个损失函数值,并且联合各个模型的损失函数值得到总损失函数值,最终基于总损失函数值对每个模型进行训练,从而得到特征兼容的多个模型。基于本方法中对同一模型裁剪得到不同的多个模型并且联合训练多个模型的方式,能够解决多个不同的平台上部署不同模型之间的特征兼容问题,使得多个模型所提取的特征之间能够实现两两相互检索比对。

【技术实现步骤摘要】

本申请涉及人工智能,尤其涉及一种模型训练方法及相关装置


技术介绍

1、随着人工智能技术的快速发展,视觉搜索系统目前被广泛部署于各种平台上。视觉搜索系统通常先提取图像的特征,再基于提取的图像特征在数据库中检索最相似的图像。一个典型的视觉搜索系统通常包括部署在不同平台(例如服务器、智能手机、智能相机)上的多个模型,不同平台上的模型之间通过提取的图像特征相互交互。

2、在不同平台上部署模型时,由于不同的平台通常会具有不同的计算资源和存储资源限制,因此可能根据最小资源约束条件在不同的平台上统一部署相同的模型,但这样会导致部分平台上的资源浪费并限制了模型的精度上限。因而,为了更好地利用资源并获得更高的模型精度,可以根据不同平台的资源限制情况实现在不同平台上部署不同大小的模型,从而最大程度地利用各个平台的计算资源和存储资源。但是,这种模型部署方案要求不同平台上所部署的不同模型提取的特征之间能够实现相互检索比对,即保证不同模型对相似的数据所提取的特征也是相似的,且不同模型对不同数据所提取的特征也是相差较大的。一般来说,在不同模型提取的特征之间能够实现相互检本文档来自技高网...

【技术保护点】

1.一种模型训练方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述训练后的多个模型用于提取图像特征,以执行图像检索任务。

3.根据权利要求2所述的方法,其特征在于,所述训练后的多个模型用于部署于不同的设备上,且所述训练后的多个模型中不同模型所提取的不同的图像特征之间支持检索比对。

4.根据权利要求2或3所述的方法,其特征在于,所述训练后的多个模型所提取的图像特征具有相同的维度。

5.根据权利要求1-4任意一项所述的方法,其特征在于,所述多个模型是对所述目标模型中的通道执行裁剪得到的,且所述多个模型中每个模型被裁剪的通道...

【技术特征摘要】

1.一种模型训练方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述训练后的多个模型用于提取图像特征,以执行图像检索任务。

3.根据权利要求2所述的方法,其特征在于,所述训练后的多个模型用于部署于不同的设备上,且所述训练后的多个模型中不同模型所提取的不同的图像特征之间支持检索比对。

4.根据权利要求2或3所述的方法,其特征在于,所述训练后的多个模型所提取的图像特征具有相同的维度。

5.根据权利要求1-4任意一项所述的方法,其特征在于,所述多个模型是对所述目标模型中的通道执行裁剪得到的,且所述多个模型中每个模型被裁剪的通道的数量不同;

6.根据权利要求1-5任意一项所述的方法,其特征在于,所述多个模型具有不同的批量归一化参数。

7.根据权利要求1-6任意一项所述的方法,其特征在于,所述第一损失函数值与所述第一模型的不确定性相关。

8.根据权利要求7所述的方法,其特征在于,所述第一模型的不确定性由所述第一模型的输出结果的置信度来描述,且所述第一损失函数值与所述第一模型的输出结果的置信度具有负相关关系。

9.根据权利要求1-8任意一项所述的方法,其特征在于,所述总损失函数值是由所述多个损失函数值构成,所述基于所述总损失函数值分别对所述多个模型中的每个模型进行更新,包括:

10.根据权利要求1-9任意一项所述的方法,其特征在于,所述第一模型为对所述目标模型执行第一裁剪得到的;

11.根据权利要求1-9任意一项所述的方法,其特征在于,所述基于总损失函数值分别对所述多个模型中的每个模型进行更新,得到训练后的多个模型,包括:

12.一种模型训练装置,其特征在于,包括:

13.根据权利要求12所述的装置,其特征在于,所述训练后的多个模型用于提取图像特征,以执行图像检索任务。

14.根据权利要求13所述的装置,其特征在于,所述训练后的多个模型用于部署于不同的设备上,且所述训练后的多个模型中不同模型所提取的不同的图像特征之间支持检索比对。...

【专利技术属性】
技术研发人员:楼燚航何建忠唐国静白涛张子阳廖明辉李佳维
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1