一种基于深度特征的高空间分辨率遥感图像迁移学习方法技术

本发明专利技术提供一种基于深度特征的高空间分辨率遥感图像迁移学习方法。该方法可以利用已有的遥感图像以及样本信息对新获取的遥感图像直接进行分类，从而为遥感快速监测提供支持。该方法包括以下步骤：对源域图像以及目标域图像，使用主成分变换，分别提取其前三个主成分分量；对生成的三个波段的新图像，提取每个像素为中心的图像块输入到已经训练好的多层卷积神经网络；输出卷积神经网络的最后一个全连接层，得到该像素的深度特征表示；对源域图像以及源域的训练样本，基于提取的深度特征使用支持向量机分类器训练得到一个分类器；对目标域图像，使用得到的支持向量分类器直接进行分类，完成从源域图像以及类别对应关系到目标域的迁移学习。

A migration learning method for high spatial resolution remote sensing images based on depth features

The invention provides a high spatial resolution remote sensing image migration learning method based on depth characteristics. The method can directly classify the newly acquired remote sensing images by using existing remote sensing images and sample information, thus providing support for remote sensing rapid monitoring. The method comprises the following steps: the source domain and the target domain image image, using the principal component transform, then extracted the first three principal components; the new image of three bands generated, from each pixel as the center of the image block is input to the already trained multilayer convolution neural network output; convolutional neural network at the end of a fully connected layer, get the depth characteristics of the pixel representation; the source domain and the image of the source domain of training samples, the depth of feature extraction using support vector machine classifier trained a classifier based on the target domain; image, using support vector classifier obtained directly from the source domain image classification, and related to the migration categories corresponding to the target domain of learning.

【技术实现步骤摘要】
一种基于深度特征的高空间分辨率遥感图像迁移学习方法
本专利技术涉及遥感图像处理技术，具体的说，涉及一种基于深度特征的高空间分辨率遥感图像迁移学习方法，该方法可以基于已有高空间分辨率遥感图像以及样本数据，对新获取的遥感图像在没有样本的情况下进行自动分类，从而快速处理遥感图像，为遥感监测提供支持。
技术介绍
遥感技术目前被广泛应用于地学应用中，如森林资源规划、农作物估产、环境评估、灾害监测等。遥感图像分类技术是把遥感图像从数据转换为信息的关键步骤。从是否需要训练样本来分，遥感图像分类方法分为监督分类和非监督分类。在遥感图像分类中最常用的是监督分类方法。监督分类方法，需要人工地确定分类体系、各个类别的训练样本等。监督分类分类方法能够保证获得比较好的分类精度，但是获取训练样本是一个耗时耗力的过程。在常规模式下，遥感卫星对某一特定地区会按照一定的重返周期进行成像，形成一系列时间序列的遥感图像。如果对每新获取的一个时相遥感图像都进行样本的采集，人工操作将是极其繁重的。尤其是对于遥感灾害应急等应用，需要在获取遥感图像的情况下快速地获得其专题分类及变化信息。因而，研究如何利用过去获得的遥感图像以及训练样本信息，对新获取的遥感图像进行自动分类(指不需要进行样本的重新采集)具有一定的实用价值。机器学习领域的迁移学习试图满足上述的应用需求。迁移学习利用某一个分类任务(包括原始数据以及各类别的样本数据，通常称为源域)学习得到的规则、规律对一个新的、并具有一定相关性的分类任务(只包括原始数据，没有或者很少的样本数据，还不足以训练出一个有效的分类器，通常称为目标域)进行分类。目前迁移学习算法主要包含两大类方法：基于实例的方法以及基于特征提取的方法。在前一种方法中，其基本思想是，尽管源域的训练数据和目标域的数据多少有些不同，但是由于两个域的数据是有一定相关性的，因而源域的训练数据应该还是会存在一部分数据(比如其中一个数据子集)适合用来对目标域数据训练出一个有效的分类模型；因而该类算法的目标就是从源域中找出那些适合目标域数据的实例，并将这些实例用于辅助目标域进行分类，典型的算法如TrAdaBoost。在第二种方法中，其主要思路是通过特征降维，把源域数据和目标域数据，分降到具有最大相似性的子空间上：在共同的子空间上，源域的训练样本即可直接用于目标域进行分类器的训练，典型算法有TPLSA算法、CoCC算法等。这两类算法尽管在应用中取得了一定的效果，但其离实际应用仍有一定的距离。2012年KrizhevskyA.在机器学习领域的顶级会议2012ConferenceonNeuralInformationProcessingSystems(NIPS)发表的AlexNet工作在经典的图像识别任务上取得重大突破，比传统基于支持向量机的工作识别率提高接近10％，引起了学术界以及工业界再次对相对比较经典的神经网络的极大兴趣。在学术界，神经网络在20世纪80年代是一个主流的机器学习流派。但是，由于当时缺乏足够的训练数据以及相对比较弱的计算能力，对多层神经网络的训练及其困难，训练时间过长，并往往会产生过拟合的分类网络，因而在实际应用中的识别效果并不好。近年来，具有足够大数据量、具有类别标记的图像数据集的出现(如ImageNet等)，以及显卡GPU计算能力的增强，使得能够在可以接受的时间里对多层神经网络训练出好的网络模型参数。卷积神经网络最基本的结构单元，包含：卷积层、池化层以及全连接层。卷积层对窗口内的图像进行卷积操作，提取各种类型的特征；池化层典型的操作包括平均和最大化，是对提取特征的进一步抽象；全连接层是将卷积层和池化层的输出使用向量堆叠起来，形成一层或多层全连接层，实现高阶的推导能力。AlexNet取得巨大成功后，后续研究者又在增加网络层数、网络优化方法等各方面广泛研究，又出现了GoogleNet，VGGNet等具有影响力的卷积神经网络。研究人员并把设计好的网络结构，以及已经训练好的网络模型参数进行公开，供后续的研究人员直接使用，或者针对自己的数据集进行参数的调整优化。需要指出的是，这些公开的经典卷积神经网络(AlexNet，GoogleNet，VGGNet等)都是通过对自然目标图像(如汽车、飞机等各种自然常见物体以及各种场景)进行训练得到的，因而往往并不能在遥感图像中直接应用。高空间分辨率遥感图像与这些自然场景具有一定的相似性，但更多是不同；另外识别任务也不相同，比如高空间分辨率遥感图像更主要用于区分建筑、道路、树木、草地等地表覆盖类别。本专利的基本思路是，基于历史的遥感图像(比如前一个时相的遥感数据)以及样本数据，使用多层的卷积神经网络(如AlexNet，GoogleNet，VGGNet等)提取其最后一个全连接层特征，作为其深度特征；并利用样本数据基于提取的深度特征进行分类器的训练；对新获取的遥感图像，使用同样的卷积神经网络，提取其深度特征，并利用基于历史遥感图像以及样本数据训练得到的分类器模型直接进行分类。本专利提出了一种基于深度特征的高空间分辨率遥感图像迁移学习方法：针对遥感应用中快速监测的需求，基于已有的高空间分辨率遥感图像以及样本数据，本专利所提出的遥感图像迁移学习方法，其核心是利用目前广泛使用并取到巨大成功的卷积神经网络提取遥感图像特征，这种图像特征由于通过多层的神经网络提取，属于对图像更高层次特征的抽象表达，而不局限于传统的图像光谱特征的表达，因而能够减小不同时相遥感图像的辐射差异性对分类造成的影响，具有更强的迁移能力。该技术方法可以利用已有的遥感图像以及样本信息，训练好分类器；对新获取的遥感图像，直接利用已经训练好的分类器进行分类，从而为遥感快速监测等应用提供支持。
技术实现思路
本专利技术的目的是提供一种基于深度特征的高空间分辨率遥感图像迁移学习方法。本专利技术的基本思路为：对于源域图像以及目标域图像分别使用已训练好的卷积神经网络进行深度特征的提取；使用源域的训练样本对基于源域图像提取的深度特征进行分类器的训练；对基于源域的训练样本训练得到的分类器，对目标域图像提取的深度特征进行直接分类，完成分类知识的迁移。本专利技术的技术方案提供的一种基于深度特征的高空间分辨率遥感图像迁移学习方法，其特征在于包括以下实施步骤：A选择已经训练好的卷积神经网络模型；B对源域图像以及目标域图像，使用主成分变换，分别提取其前三个主成分分量，形成相应的三个波段的新图像；C对生成的三个波段的新图像，分别以每个像素为中心取其一定大小窗口的图像块输入到选定的卷积神经网络；D输出卷积神经网络中的最后一个全连接层，得到该像素的深度特征表示；E对源域图像以及源域的训练样本，基于步骤D中提取的深度特征使用支持向量机分类器进行训练得到一个分类器；F对步骤D中得到的目标域图像的深度特征，使用步骤E中训练得到的分类器进行分类，完成从源域图像以及类别对应关系到目标域的迁移学习。上述实施步骤的特征在于：步骤A中训练好的卷积神经网络模型是指AlexNet，VGGNet，GoogleNet等通过使用目前世界上图像识别领域最大、具有大量标记数据的数据库ImageNet训练得到的多层卷积神经网络。步骤B中所述的主成分变换是由于高空间分辨率的遥感图像大都拥有多于3个成像波段(除常规的红绿蓝三本文档来自技高网...

【技术保护点】
一种基于深度特征的高空间分辨率遥感图像迁移学习方法，其特征在于包括以下步骤：A选择已经训练好的卷积神经网络模型；B对源域图像以及目标域图像，使用主成分变换，分别提取其前三个主成分分量，形成相应的三个波段的新图像；C对生成的三个波段的新图像，分别以每个像素为中心取其一定大小窗口的图像块输入到选定的卷积神经网络；D输出卷积神经网络中的最后一个全连接层，得到该像素的深度特征表示；E对源域图像以及源域的训练样本，基于步骤D中提取的深度特征使用支持向量机分类器进行训练得到一个分类器；F对步骤D中得到的目标域图像的深度特征，使用步骤E中训练得到的分类器进行分类，完成从源域图像以及类别对应关系到目标域的迁移学习。

【技术特征摘要】
1.一种基于深度特征的高空间分辨率遥感图像迁移学习方法，其特征在于包括以下步骤：A选择已经训练好的卷积神经网络模型；B对源域图像以及目标域图像，使用主成分变换，分别提取其前三个主成分分量，形成相应的三个波段的新图像；C对生成的三个波段的新图像，分别以每个像素为中心取其一定大小窗口的图像块输入到选定的卷积神经网络；D输出卷积神经网络中的最后一个全连接层，得到该像素的深度特征表示；E对源域图像以及源域的训练样本，基于步骤D中提取的深度特征使用支持向量机分类器进行训练得到一个分类器；F对步骤D中得到的目标域图像的深度特征，使用步骤E中训练得到的分类器进行分类，完成从源域图像以及类别对应关系到目标域的迁移学习。2.根据权利要求1所述的方法，其...

【专利技术属性】
技术研发人员：霍连志，赵理君，张伟，郑柯，唐娉，
申请(专利权)人：中国科学院遥感与数字地球研究所，
类型：发明
国别省市：北京,11