图像分类元模型的训练方法、图像分类方法、装置和介质制造方法及图纸

技术编号:38722408 阅读:17 留言:0更新日期:2023-09-08 23:16
本公开公开了一种图像分类元模型的训练方法、图像分类方法、装置和介质,涉及元学习领域。该训练方法包括:基于多个预训练模型,得到一批反演图像数据;从反演图像数据中抽取样本,构建多个第一伪任务,其中,每个第一伪任务包括伪支持集和伪查询集;以及利用伪支持集和伪查询集,对图像分类元模型进行训练。本公开能够解决无数据场景下的图像分类元模型训练问题,并且能够提高模型训练的性能。并且能够提高模型训练的性能。并且能够提高模型训练的性能。

【技术实现步骤摘要】
图像分类元模型的训练方法、图像分类方法、装置和介质


[0001]本公开涉及元学习领域,尤其涉及一种图像分类元模型的训练方法、图像分类方法、装置和介质。

技术介绍

[0002]近年来,在大数据的驱动下,机器学习和深度学习在计算机视觉、自然语言处理、推荐系统等领域取得了显著的成效。但是在很多现实场景中,获取大量有标注数据进行传统机器学习的模型训练变得愈发困难。元学习作为一种更为通用的训练范式被提出,旨在利用过去的学习经验,通过少量有标注样本进行模型的快速训练。
[0003]面向有数据场景的元学习方法,旨在从一系列相似的任务中学习某种通用的经验,从而能够辅助新任务的训练。这类方法需要能够获取到每个任务的训练数据。但是由于数据隐私等问题,获取每个任务的训练数据是困难的。例如,用户往往只发布训练好的模型而隐藏对应的训练数据,从而保证数据的隐私安全。

技术实现思路

[0004]本公开要解决的一个技术问题是,提供一种图像分类元模型的训练方法、图像分类方法、装置和介质,能够面向无数据场景下的模型训练,提高模型训练的性能。
[00本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种图像分类元模型的训练方法,包括:基于多个预训练模型,得到一批反演图像数据;从所述反演图像数据中抽取样本,构建多个第一伪任务,其中,每个第一伪任务包括伪支持集和伪查询集;以及利用所述伪支持集和所述伪查询集,对图像分类元模型进行训练。2.根据权利要求1所述的训练方法,其中,基于多个预训练模型,得到一批反演图像数据包括:将任意一个噪声数据输入至任意一个预训练模型中,得到预测值;根据每个噪声数据对应的预测值和标签值,确定第一损失函数;以及以最小化所述第一损失函数为目标,更新每个所述噪声数据,生成一批反演图像数据。3.根据权利要求1所述的训练方法,其中,利用所述伪支持集和所述伪查询集,对图像分类元模型进行训练包括:根据多个第一伪任务对应的第二损失函数,确定第一目标函数,其中,所述第二损失函数为以基模型参数为变量的基模型在所述伪查询集的损失函数;以及基于约束条件,以最小化所述第一目标函数为目标,求解出所述图像分类元模型的元模型参数,其中,所述约束条件为所述基模型参数为针对所述伪查询集对应的第一伪任务所述图像分类元模型的元模型参数利用所述支持集进行计算后得到的参数。4.根据权利要求2所述的训练方法,其中,根据每个噪声数据对应的预测值和标签值,确定第一损失函数包括:根据每个噪声数据对应的预测值与标签值,确定每个噪声数据对应的损失函数;以及求解多个噪声数据对应的损失函数之和,得到所述第一损失函数。5.根据权利要求4所述的训练方法,其中,得到第一损失函数值还包括:获取存储在每个预训练模型中原始图像数据在批归一化层前的第一特征图均值和第一特征图方差;计算每个噪声数据所在批次的噪声数据在对应预训练模型在批归一化层前的第二特征图均值和第二特征图方差;针对每个噪声数据,根据所述第一特征图均值、第一特征图方差、第二特征图均值和第二特征图方差,计算正则项;以及求解多个噪声数据对应的损失函数与正则项之和,得到所述第一损失函数。6.根据权利要求1至5任一所述的训练方法,还包括:根据所述图像分类元模型的反馈值,更新所述反演图像数据,其中,所述反馈值根据第二损失函数确定,所述第二损失函数为以基模型参数为变量的基模型在所述伪查询集的损失函数,所述基模型参数为针对所述伪查询集对应的第一伪任务所述图像分类元模型的元模型参数利用所述支持集进行计算后得到的参数。7.根据权利要求6所述的训练方法,其中,根据所述图像分类元模型的反馈值,更新所述反演图像数据包括:根据所述第二损失函数与所述反馈值的乘积,与第一损失函数的差值的期望为第二目标函数,其中,所述第一损失函数包括更新前的一批反演训练数据对应的损失函数之和,所述第二损失函数的值在预定的连续迭代次数内不再下降,则所述反馈值为正数,否则,所述
反馈值为0;以及以...

【专利技术属性】
技术研发人员:沈力陶大程
申请(专利权)人:京东科技信息技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1