一种基于深度注意力度量的小样本图像分类方法技术

本发明专利技术公开了一种基于深度注意力度量的小样本图像分类方法，首先，根据小样本任务中的少量标注样本构建跨类样本对；然后，使用变分自编码器建立以跨类样本对为条件的多模态权重分布；接着，根据多模态权重分布采样生成深度度量网络；最后，使用生成的深度度量网络进行小样本图像分类。本发明专利技术方法根据任务描述信息生任务自适应的深度度量，解决了非参数化距离度量导致判别能力不足以及参数化的线性分类器容易过拟合的问题。采用端到端的元学习方式，避免了训练任务特定的分类器带来的时间开销，在小样本图像分类中取得了较好的分类效果。果。

【技术实现步骤摘要】
一种基于深度注意力度量的小样本图像分类方法


[0001]本专利技术属于模式识别
，具体涉及一种小样本图像分类方法。

技术介绍

[0002]目前图像处理已经被广泛应用于工业制造、农业生产及军事遥感等众多领域。图像分类是其中的一项重要应用。在实际的应用中，往往面临着样本难获取以及难标注等问题，在训练时仅有少量的标记数据，呈现出典型的小样本特性。与传统机器学习的范式有所不同，小样本图像分类打破了独立同分布的假设，旨在能够在一个或者几个标注样本的条件下，将训练数据学习到的模型有效泛化到测试数据中。由于训练数据与测试数据的类别不同，而且分布差异较大，导致小样本图像分类性能不佳。元学习以良好的知识迁移及快速泛化能力成为解决小样本图像分类问题的有效途径。文献“Snell J,Swersky K,Zemel R.Prototypical networks for few shot learning[C]//Advancesin Neural Information Processing Systems.2017:4077
‑<br/>4087.”本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基基于深度注意力度量的小样本图像分类方法，其特征在于，包括如下步骤：步骤1：对于标准的N
‑
wayK
‑
shot小样本图像分类任务包含一个支持样本集和一个查询样本集其中，支持样本集包含N个类别，每个类别有K个标记样本，用于提供监督信息；查询样本集由来自支持样本集中相同的N个类别的未标记样本组成，用于进行性能测试；步骤2：根据任务的支持样本集构建跨类样本对：其中，表示由ResNet
‑
12构成的基本嵌入模块得到的第n类的第k个支持样本的深度特征，表示由基本嵌入模块得到的第d类的第l个支持样本的深度特征，表示样本的标注信息，表示第n个类别的第j个跨类样本对，Concat(
·
)表示沿着通道维度进行拼接，j＝1,...,K2(N
‑
1)；步骤3：将每个跨类样本对输入差异性编码器中推理潜在高斯分布的参数；将第n个类别的所有跨类样本对作为第n个类别的描述信息，然后计算编码结果的均值和标准差和标准差其中表示差异性编码器；通过为N个类别计算和获得N个潜在的高斯分布，即对于N个潜在高斯分布中的每一个进行随机采样并将采样向量拼接起来作为多模态权重分布d
i
：：其中表示由产生的随机采样，是标准正态分布，
⊙
表示点乘；所述差异性编码器由三个串行的分别包括512、256及64个滤波器堆叠的3
×
3卷积块构成，每个卷积块均使用BN进行归一化、ReLU进行非线性激活及2
×
2池化核进行最大值池化；步骤4：根据多模态权重分布，使用权重生成器生成深度度量网络的参数；步骤4
‑
1：构建深度度量网络，由一个注意力层、一个卷积层和一个全连接层组成；为每个任务生成一个深度度量网络；步骤4

【专利技术属性】
技术研发人员：魏巍，张磊，周飞，
申请(专利权)人：西北工业大学，
类型：发明
国别省市：