基于元核网络的小样本遥感场景分类方法技术

本发明专利技术公开了基于元核网络的小样本遥感场景分类方法，包括选取给定不重叠的遥感数据集；对于每个任务，将给定的支持集嵌入到向量中；采用参数化的线性分类器对嵌入得到的特征向量进行分类；使用非线性映射将度量空间中的特征二次映射到高维空间，扩大分离边界表面周围的空间分辨率；使用拉伸损失函数约束类内与类间的方差比，强迫类内特征聚集；使用最终的最优解，将小样本遥感图片进行场景分类。本发明专利技术利用特定的任务信息，解除固定距离对模型的限制；将嵌入空间中的特征二次映射到高维空间中，提高分类边界清晰度，增强分类效果；降低类别边界对样本选择的依赖性，增加分类边界的鲁棒性，提高模型分类效果。提高模型分类效果。提高模型分类效果。

【技术实现步骤摘要】
基于元核网络的小样本遥感场景分类方法


[0001]本专利技术属于遥感图像识别
，尤其涉及基于元核网络的小样本遥感场景分类方法。

技术介绍

[0002]场景分类是遥感图像解译领域的一个基础而重要的问题，其目的是根据语义内容为每张未标记的遥感图像分配一个特定的语义标签。该任务具有广泛的应用，包括灾害检测、住宅规划、环境监测、土地资源管理等。小样本遥感场景分类试图使模型迅速适应不出现在封闭训练集中的新场景，而每个新场景只有少数标记的例子。一方面，由于有限的样本很难描述数据的分布，所以模型要学习好的泛化特征是一个挑战；另一方面，由于表征受限，所以模型要学习依赖于样本偏差的分类边界是另一个挑战。
[0003]近年来，得益于高性能计算单元的发展，基于深度学习的方法凭借其出色的特征提取能力在遥感场景分类任务上取得了许多优异的成绩。该类方法的本质是使用自动编码机(Auto Encoder，AE)、深度信念网络(Deep Belief Network，DBN)和卷积神经网络(Convolutional Neural Network，CNN)等深度神经神经网络端到端的提取特征。一方面，这类方法都是基于封闭世界假设的，然而，在现实中，世界是开放的，本专利技术不得不面对封闭数据集中并不存在的新的遥感场景。另一方面，他们也都是数据饥渴的，因此这些标准监督的深度学习范式往往因为过拟合，无法为从少量数据中学习提供令人满意的解决方案。因此，为了减少对数据标注的依赖，更多的研究人员努力开发强大的方法，从很少的样本中学习新的概念，这就是所谓的小样本学习(FSL)。
[0004]为了解决FSL问题，最先进的方法当属元学习，其核心概念是学习一个模型，在给定任务(一组标记数据)的情况下，产生一个可以在所有任务中泛化的分类器。通过引入元学习策略和度量学习框架，匹配网络贡献了早期的小样本分类方法。原型网络和关系网络在此基础上做了进一步改进。这类方法通常由一个嵌入模块和一个度量模块组成。对于一个给定的未标记的遥感图像和几个标记的图像，嵌入模块首先生成所有输入图像的低维嵌入，然后度量模块通过测量未标记的图像特征和样本图像特征之间的距离给出识别结果。这类方法的本质是期望构建的嵌入空间能够更好地适应一些预先指定的距离度量函数，如余弦相似度或欧氏距离。然而，在实践中，由于只有嵌入模块是可学习的，固定的度量函数限制了特征提取器产生判别性的表示。Sung,I等人试图通过引入一个隐含的可学习的度量模块来解决上述问题，但事实证明，由于其固有的局部连通性，比较能力仍然有限。
[0005]有些图片的"商业区"、"密集区"、"湿地和湖泊"、"高速公路"和"跑道"几乎没有区别，而"宫殿"和"教堂"也非常相似。标签样本的稀少放大了这些相似个体对分类边界的影响，使得这些类别之间的高度相似性导致了嵌入模块产生的低维特征的纠缠，这使得度量模块无法进行有效的线性划分。
[0006]此外，由于地面物体的复杂性和多样性，在采集过程中还会受到背景、光照和比例等成像条件的影响。因此，有些图片中同一语义类别的场景图像中的物体之间存在较大的
视觉差异，导致遥感图像的类内差异较大。这种大的类内变化导致类内特征分散现象。当样本数量足够丰富时，大量的样本可以弥补类的边界对样本的依赖性。然而，在小样本的情况下，当一个类的特征变得分散时，类内与类间方差比上升，类边界对选择一个样本的依赖性变得更强。这时通过对一个数据点进行抽样形成的分类边界往往会对大的区域进行错误分类，从而影响整体的分类精度。
[0007]小样本学习的核心是通过少数有监督信息的样本对新任务进行快速归纳，它大体上可以分为三种方法：基于生成的方法，基于梯度的方法，以及基于度量的方法。
[0008]基于生成的方法的核心思想是通过生成假的样本，将小的数据集扩展到大的数据集。Y.Wang提出了表示正则化技术为数据匮乏的类别幻化出额外的训练实例。L.Gomez
‑
chova等人通过从有足够例子的类中转移统计数据来校准少数样本类的分布，相似的，N.Longbotham等人提出了一个带有数据平衡增强的光谱
‑
空间分形残差卷积神经网络以解决高光谱分类中存在的标注样本有限问题。S.Chaib等人提出了弓形网络，通过反馈回路共同学习三维几何和语义表征。
[0009]基于梯度的方法着重于通过梯度下降使模型参数快速适应新的任务。迭代地选择一批以前的任务，为每个任务训练学习者以计算梯度和损失，并在权重更容易被反向传播更新的方向上进行更新。对一个给定的任务进行随机梯度下降的K次迭代，然后逐渐将初始化权重向K次迭代后得到的权重移动。还可学习步长大小，或训练循环网络从梯度中预测步长。
[0010]基于度量的方法的目的是通过度量约束获取一个可以适应新任务的特征空间，这个特征空间与网络的权重相吻合。新的任务可以通过比较新的输入和该特征空间中的标签来学习。一个新的输入和这个标签之间的相似度越高，新的输入就越有可能属于该标签所代表的类别。孪生网络和匹配网络构建了基本学习范式，奠定了该类方法的基础。原型方法在此基础上开创性的提出原型中心的概念，通过一个前馈神经网络来嵌入任务实例，将类中心作为原型中心，使用最近邻分类器进行分类。在此基础上使用可学习的距离度量并提出一个均衡损失函数，目的是在最大化拟合能力的同时，可以在不同遥感场景中获得最大泛化能力。DLA方法通过引入通道注意力和空间注意力模块以获得更具判别性的遥感影像特征，从全局和局部的角度捕捉遥感场景的辨别特征信息。

技术实现思路

[0011]本专利技术提出了一个称为元核网络的网络框架，以提高小样本遥感场景分类的有效性。本专利技术的方法仍然在度量学习的框架内，并遵循episode(任务)的训练策略。首先，本专利技术摒弃了非参数化的最近邻分类器，将参数化的线性分类器融入度量空间以解除固定的度量函数对模型可学习性的限制。参数化线性分类器允许更多的灵活性，因为它们为不同的任务产生不同的参数集，可以学习更多的特定任务知识.第二，本专利技术提出元核策略，将度量空间中的特征二次映射到高维空间，从而有效的解决了因遥感影像类间高相似性而引起的低维特征纠缠问题。第三，本专利技术提出了一个新的损失函数，名为拉伸损失。该损失函数通过约束类内与类间的方差比，降低了类别边界对样本选择的依赖性，从而有效的解决了因遥感影像类内极大的差异性而引发的类别误判现象。
[0012]具体地，本专利技术公开的基于元核网络的小样本遥感场景分类方法，包括以下步骤：
[0013]选取给定不重叠的第一遥感数据集和第二遥感数据集，从第一遥感数据集中构建训练集和验证集，从第二遥感数据集中构建测试集；所述训练集、验证集和测试集包括多个任务，所述任务包括支持集和查询集；
[0014]对于每个任务，将给定的支持集嵌入到向量中；
[0015]采用参数化的线性分类器对嵌入得到的特征向量进行分类，为不同的任务产生不同的参数集，计算出最优解后，得到梯度最优线性逼近，再通过优化轨迹进行反向传播；
[0016]针对本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于元核网络的小样本遥感场景分类方法，其特征在于，包括以下步骤：选取给定不重叠的第一遥感数据集和第二遥感数据集，从第一遥感数据集中构建训练集和验证集，从第二遥感数据集中构建测试集；所述训练集、验证集和测试集包括多个任务，所述任务包括支持集和查询集；对于每个任务，将给定的支持集嵌入到视觉特征向量中；采用参数化的线性分类器对所述视觉特征向量进行分类，为不同的任务产生不同的参数集，计算出最优解后，得到梯度最优线性逼近，再通过优化轨迹进行反向传播；使用非线性映射将度量空间中的特征二次映射到高维空间，扩大分离边界表面周围的空间分辨率；使用拉伸损失函数约束类内与类间的方差比，强迫类内特征聚集；使用最终的最优解，将小样本遥感图片进行场景分类。2.根据权利要求1所述的基于元核网络的小样本遥感场景分类方法，其特征在于，所述将给定的支持集嵌入到向量中的计算公式如下：其中V为视觉特征向量，为网络参数，M
train
为所述训练集。3.根据权利要求1所述的基于元核网络的小样本遥感场景分类方法，其特征在于，所述采用参数化的线性分类器对嵌入得到的特征向量进行分类的计算如下：T表示训练过程中采样的一个任务，p(t)是任务的分布，y是真实标签，V为视觉特征向量，M
test
为所述测试集，θ定义了用于预测验证集中的例子的线性回归权重，为从p(T)中抽取的新任务提供解决方案。4.根据权利要求3所述的基于元核网络的小样本遥感场景分类方法，其特征在于，针对训练过程中采样的一个任务，都有并且其中w
n
是第n个分类边界的参数，σ
n
和σ
nk
是正则项，η是正则项系数，x
i
是第i个输入，y
i
是对应的预测值，N是分类任务的类别数，是获得由x参数化的预测模型。5.根据权利要求1所述的基于元核网络的小样本遥感场景分类方法，其特征在于，所述计算出最优解后，得到梯度最优线性逼近，再通过优化轨迹进行反向传播...

【专利技术属性】
技术研发人员：彭剑，崔振琦，赵革，李海峰，
申请(专利权)人：中南大学，
类型：发明
国别省市：