当前位置: 首页 > 专利查询>南京大学专利>正文

一种基于协方差度量的小样本学习算法制造技术

技术编号:26171242 阅读:52 留言:0更新日期:2020-10-31 13:42
本发明专利技术公开了一种基于协方差度量的小样本学习算法,属于计算机视觉领域。其中,一种基于协方差度量的小样本学习算法包括:(1)引入插曲训练机制来学习可迁移知识,(2)设计一个局部协方差表示,然后将其嵌入到深度网络中来学习表达每个概念,(3)基于局部协方差表示,构造一个协方差度量层来度量查询样本和概念之间的分布一致性。本发明专利技术提出一个新颖简洁的端到端协方差度量网络CovaMNet,设计一个二阶局部协方差表示来代替传统的一阶概念表征,提出一个新的协方差度量函数。分析多个基准数据集上的对比实验结果可得出,本发明专利技术提出的CovaMNet框架在一般小样本分类任务和细粒度小样本分类任务上都表现出具有竞争力的效果。

【技术实现步骤摘要】
一种基于协方差度量的小样本学习算法
本专利技术涉及一种基于协方差度量的小样本学习算法,属于计算机视觉领域。
技术介绍
人类可以从很少的实例中学习新的概念,并拥有很强的泛化能力,这些能力是机器学习算法目前还不具有的,即人类可以从一个或几个实例中学习一个新的概念,但机器学习标准算法则需要更多的实例才能勉强达到相同的能力。目前,机器学习算法过于依赖于有标签的数据,而在实际应用中,数据标注的代价往往是高昂的,如何利用有限少量的标注数据进行学习并使模型具有较高泛化能力成为重要课题。针对上述问题,有必要利用更多的先验知识来帮助进行表征和学习。目前已有的研究方案,如图1所示,根据出发点和动机的不同,可以大致划分为下列三类:(1)基于数据扩充的小样本学习;(2)基于元学习的小样本学习;(3)基于度量的小样本学习。其中,基于数据扩充的小样本学习出发点在于:生成新的数据来扩充训练数据。当数据足够时,便能直接采用传统机器学习算法来解决识别任务,目前提出的工作主要是基于自动编码器(auto-encoders)或基于生成对本文档来自技高网...

【技术保护点】
1.一种基于协方差度量的小样本学习算法,具体包括如下步骤:/n步骤(1):对实验采用的数据集进行划分,得到训练集、验证集和测试集;/n步骤(2):对数据集中图片进行缩放,保证分辨率达到预期值;/n步骤(3):在数据集上构建分类任务,采样插曲训练机制,在训练阶段和测试阶段分别随机构建插曲;/n步骤(4):将局部协方差表示嵌入到深度网络中来学习每个概念的特征表示,并为查询图像抽取深度局部描述子特征;/n步骤(5):在局部协方差表示的基础上,使用协方差度量层计算查询图像和每个类别之间的分布一致性;/n步骤(6):基于所述局部协方差表示和协方差度量层,将这两个模块融合到一个框架中,进行端到端训练。/n

【技术特征摘要】
1.一种基于协方差度量的小样本学习算法,具体包括如下步骤:
步骤(1):对实验采用的数据集进行划分,得到训练集、验证集和测试集;
步骤(2):对数据集中图片进行缩放,保证分辨率达到预期值;
步骤(3):在数据集上构建分类任务,采样插曲训练机制,在训练阶段和测试阶段分别随机构建插曲;
步骤(4):将局部协方差表示嵌入到深度网络中来学习每个概念的特征表示,并为查询图像抽取深度局部描述子特征;
步骤(5):在局部协方差表示的基础上,使用协方差度量层计算查询图像和每个类别之间的分布一致性;
步骤(6):基于所述局部协方差表示和协方差度量层,将这两个模块融合到一个框架中,进行端到端训练。


2.根据权利要求1所述一种基于协方差度量的小样本学习算法,其特征在于:所述步骤(1)的数据集划分过程中,涉及的数据集共有5个,分别是2个小样本图像分类数据集miniImageNet和tieredImageNet,3个细粒度基准数据集StandfordDogs,StandfordCars,CUBBirds;
接着对每个数据集进行划分,以miniImageNet和StandfordDogs为例,将miniImageNet数据集的100个类其中64个类用作训练集,16个类用作验证集,20个类用作测试集;
将StandfordDogs数据集中120个类其中70个类用作训练集,20个类用作验证集,30个类用作测试集。


3.根据权利要求1所述一种基于协方差度量的小样本学习算法,其特征在于:所述步骤(3)的插曲构建过程中,在训练阶段,构建的每一个插曲都包含一个支持集和一个查询集;5-way1-shot分类任务,其中5个类别每个类被包含1个支持图片和15个查询图片;5-way5...

【专利技术属性】
技术研发人员:李文斌陈思远霍静高阳徐婧林王雷罗杰波
申请(专利权)人:南京大学江苏万维艾斯网络智能产业创新中心有限公司
类型:发明
国别省市:江苏;32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1