System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及小样本图像识别分类领域,具体为基于关系网络度量的双分支多尺度分支辅导学习方法。
技术介绍
1、近年来,因为有海量的数据支持,深度学习得到了快速发展,特别是在计算机视觉领域。然而,深度学习模型的训练往往依赖于大量的有标签数据,当存在数据量少、样本稀缺的问题时,模型容易陷入过拟合,其泛化能力就会比较差。在实际问题中,的确存在着样本数据较少或稀缺的情况,比如珍稀物种的图像资料,医学图像等。与深度学习模型相反,人类强大的学习认知能力,使得人类通过仅仅学习少量数据,甚至是概念,就建立起对新事物的认知。因此,受到人类认知能力的激励,如何让深度学习模型也通过少量样本的训练就建立有效的认知并能够泛化到新的类别,是深度学习领域中具有巨大研究价值的问题之一,被称为小样本学习问题。
2、小样本学习是指在可用样本的数据有限的情况下训练模型,使得该模型能够泛化到新的事物上并建立较好的认知,模拟人类基于先验知识与新事物联系起来并进行认知的过程。对于小样本分类问题而言,通过有限的数据来训练一个分类模型,然后让其对新的类别进行分类,这些新的类别在训练时没有遇到过,因此要求该模型有很好的泛化能力。为了解决这类问题,已经有许多优秀的方法被提出。
3、目前,zhang等人则利用一个克罗内克积模块捕获图像特征对之间的空间位置相关性,并利用关系网络进行度量。qin等人通过将原始图像划分为显著补丁块并结合注意力机制增强模型的目标识别能力。wang等人通过将多层级的图像特征进行加权融合,提高小样本情况下的分类准确率。
4、然
技术实现思路
1、本专利技术的目的在于提供基于关系网络度量的双分支多尺度分支辅导学习方法。
2、为实现上述目的,本专利技术提供如下技术方案:基于关系网络度量的双分支多尺度分支辅导学习方法,至少包括以下步骤:
3、步骤1,构建多层级、多尺度的特征提取网络;
4、步骤2,构建采用关系网络度量的相似性度量网络,以及双分支辅导学习模块;
5、步骤3,将图像输入双分支多尺度辅导学习度量网络进行训练,保存最优模型;
6、步骤4,使用最优模型进行分类预测,得到分类准确率。
7、优选的,所述步骤1至少包括以下步骤:
8、在标准的4层卷积网络后,输入一个多尺度特征生成器,用于生成深层多个尺度的图像特征;
9、即得到(w1×h1×c),(w2×h2×c),(w3×h3×c),(w4×h4×c),(w5×h5×c)其中c=64表示64个通道,共5个尺度的特征图;
10、通过标准的4层卷积网络,以及多尺度特征生成器的第五个分支,得到不同深度层级的特征图;
11、即得到(w1×h1×c),(w2×h2×c),(w3×h3×c)共3个不同深度层级的特征图。
12、优选的,所述5个尺度的特征图的公式:
13、
14、其中fθ表示特征提取器,gφ表示多尺度生成器,z表示不同尺度,xs和xq分别表示支持和查询样本。
15、优选的,所述3个不同深度层级的特征图的公式:
16、
17、其中d表示不同深度层级。
18、优选的,所述步骤2中双分支辅导学习模块至少包括分支一和分支二;
19、所述分支一的应用至少包括以下步骤:
20、将多尺度特征生成器的5个尺度的特征图输出,在每个尺度上,根据查询和支持样本形成查询-支持特征对;
21、即在通道维度上将两个样本的特征进行拼接,进而输入到关系网络中,其中包括一个克罗内克积模块,用于捕获特征对之间的空间相关映射;
22、利用原始特征图生成一对特征空间相关映射,并与原始图像拼接起来,学习样本的相似性进而度量样本对之间的关系,得到每个尺度下(共5个尺度)的关系(分类)得分其中z∈{1,…,5},q表示查询样本,s表示支持样本,关系得分表述为:
23、
24、其中z表示不同的尺度,concate表示将特征在通道维度上进行拼接;
25、因此对于一个c-way k-shot分类任务,分支一总的损失为:
26、
27、其中lce表示交叉熵损失函数,n=c×k表示每个episode中支持图像的数量,m=c×m为查询图像数量;
28、表示第z个尺度下支持图像xsi与查询图像xqi的关系得分,条件满足时1(•)等于1,条件不满足时等于0。
29、优选的,所述分支二的应用至少包括以下步骤:
30、将提取出不同深度的图像特征,在每一个深度下,按照查询与支持样本形成查询-支持特征对;
31、即在通道维度上将两个样本的特征进行拼接,进而输入到关系网络中,同时,将低层次的关系信息传递到了更深层的关系网络中,与更深层的特征对进行拼接以学习样本的相似性进而度量样本的关系,得到不同深度下(共3个深度)的分类结果其中d∈{1,…,3},q表示查询样本,s表示支持样本,关系得分表述为:
32、
33、d∈{1,2,3},i∈{1,…,n},j∈{1,…m}
34、其中d表示不同层级,concate表示将特征在通道维度上进行拼接,表示从上一层传递过来的关系信息,且第一层没有这一项,因此,分支二的总损失为:
35、
36、基于关系网络度量的双分支多尺度分支辅导学习方法,其特征在于:所述步骤2中,用分支一的关系网络度量的关系得分结果,构造相似度知识的软标签,在辅导学习模块t中对分支二度量网络学习相似性进行辅导,利用分支一的学习总结rz和分支二的最终学习总结rd,构建的软标签损失表述为:
37、
38、其中lkl表示kl散度损失,softmax(·)表示归一化,因此模型总的损失函表示为:
39、
40、其中α为权重参数,取α=0.3,最终的分类结果由所有尺度和层级的关系得分之和决定,具体表示为:rfinal=rz+rd/3。
41、与现有技术相比,本专利技术的有益效果是:
42、本专利技术通过在提取多层级、多尺度特征的基础上,采用关系网络进行样本对的相似性度量并利用双分支辅导学习提升模型的识别能力,其中优先在分支一中通过多尺度特征生成器生成深层的多尺度特征,在分支二中提取出不同层级的特征,然后,双分支都采用一个可学习的关系网络对每个尺度或每个层级下的特征进行相似性度量的同时,为了发挥深层特征对最终分类的主导作用,设计了辅导学习模块,用分支一辅导分支二进行学习,最终集成所有尺度和层级下的关系得分获得分类结果,整体能够提升在小样本情况下的图像识别分类精度。
本文档来自技高网...【技术保护点】
1.基于关系网络度量的双分支多尺度分支辅导学习方法,包括,其特征在于:至少包括以下步骤:
2.根据权利要求1所述的基于关系网络度量的双分支多尺度分支辅导学习方法,其特征在于:所述步骤1至少包括以下步骤:
3.根据权利要求2所述的基于关系网络度量的双分支多尺度分支辅导学习方法,其特征在于:所述5个尺度的特征图的公式:
4.根据权利要求3所述的基于关系网络度量的双分支多尺度分支辅导学习方法,其特征在于:所述3个不同深度层级的特征图的公式:
5.根据权利要求4所述的基于关系网络度量的双分支多尺度分支辅导学习方法,其特征在于:所述步骤2中双分支辅导学习模块至少包括分支一和分支二;
6.根据权利要求5所述的基于关系网络度量的双分支多尺度分支辅导学习方法,其特征在于:所述分支二的应用至少包括以下步骤:
7.根据权利要求6所述的基于关系网络度量的双分支多尺度分支辅导学习方法,其特征在于:所述步骤2中,用分支一的关系网络度量的关系得分结果,构造相似度知识的软标签,在辅导学习模块T中对分支二度量网络学习相似性进行辅导,利用分支
...【技术特征摘要】
1.基于关系网络度量的双分支多尺度分支辅导学习方法,包括,其特征在于:至少包括以下步骤:
2.根据权利要求1所述的基于关系网络度量的双分支多尺度分支辅导学习方法,其特征在于:所述步骤1至少包括以下步骤:
3.根据权利要求2所述的基于关系网络度量的双分支多尺度分支辅导学习方法,其特征在于:所述5个尺度的特征图的公式:
4.根据权利要求3所述的基于关系网络度量的双分支多尺度分支辅导学习方法,其特征在于:所述3个不同深度层级的特征图的公式:
5.根据权利要求4所述的基于关系网络度量的双...
【专利技术属性】
技术研发人员:李刚,汪航,徐传运,张杨,李星光,舒涛,程裕博,杨妍婷,王坤,周正,李天,
申请(专利权)人:重庆理工大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。