一种遥感图像自监督训练方法、装置和电子设备制造方法及图纸

本发明专利技术提供一种遥感图像自监督训练方法、装置和电子设备。该方法包括：基于目标成果数据对遥感图像进行区域划分，将遥感图像划分为多个图斑，各图斑对应有类别属性；对区域划分后的遥感图像进行分块处理并基于分块中的图斑的属性对分块进行筛选得到遥感子图像集；基于遥感子图像集中的各遥感子图像与其余遥感子图像之间的相似性，获得各遥感子图像的正样本和负样本；采用各遥感子图像及对应的正样本和负样本对初始遥感图像特征提取模型进行训练，得到遥感图像特征提取模型。该方法能够快速且有效的构建出正负样本对集合，还能够通过构建的正负样本对集合快速训练出收敛的遥感图像特征提取模型。图像特征提取模型。图像特征提取模型。

【技术实现步骤摘要】
一种遥感图像自监督训练方法、装置和电子设备


[0001]本专利技术涉及遥感图像处理
，尤其涉及一种遥感图像自监督训练方法、装置和电子设备。

技术介绍

[0002]遥感图像在地球观测领域得到了广泛应用，如地表覆盖分类、森林变化监测等，其中，遥感图像分类是把遥感数据转换为遥感信息的重要技术手段，而遥感图像分类模型往往需要大量的标记样本以对遥感图像分类模型进行训练与参数调优。
[0003]2012年Krizhevsky A.在机器学习领域的顶级会议2012Conference on Neural Information Processing Systems(NIPS)发表的AlexNet工作在经典的图像识别任务上取得重大突破，比传统基于支持向量机的识别率提高接近10％，引起了学术界以及工业界再次对相对比较经典的神经网络的极大兴趣。在学术界，神经网络在20世纪80年代是一个主流的机器学习流派，但是，由于当时缺乏足够的训练数据以及相对比较弱的计算能力，对多层神经网络的训练及其困难，训练时间过长，并往往会产生过拟合的分类网络，因而在实际应用中的识别效果并不好。近年来，具有足够大数据量、具有类别标记的图像数据集的出现(如ImageNet等)，以及显卡GPU计算能力的增强，使得能够在可以接受的时间里对多层神经网络训练出好的网络模型参数。卷积神经网络最基本的结构单元，包含：卷积层、池化层以及全连接层。卷积层对窗口内的图像进行卷积操作，提取各种类型的特征；池化层典型的操作包括平均和最大化，是对提取特征的进一步抽象；全连接层是将卷积层和池化层的输出使用向量堆叠起来，形成一层或多层全连接层，实现高阶的推导能力。AlexNet取得巨大成功后，后续研究者又在增加网络层数、网络优化方法等各方面广泛研究，出现了GoogleNet、VGGNet、ResNet等具有影响力、典型的卷积神经网络。
[0004]深度学习模型成功的一个重要前提是对大量标记样本的依赖。受对大量标记样本依赖的限制所启发，近年来自监督学习(self
‑
supervised learning)受到广泛关注，产生了MoCo(参考论文：Momentum Contrast for Unsupervised Visual Representation Learning，CVPR2020)，SimCLR(参考论文：A Simple Framework for Contrastive Learning of Visual Representations,2020)等一些有影响力的算法模型。自监督学习主要是利用辅助任务(pretext)从大规模的无监督数据中挖掘自身的监督信息，通过这种构造的监督信息对网络进行训练，从而可以学习到对下游任务有价值的表征。也就是说自监督学习的监督信息不是人工标注的，而是算法在大规模无监督数据中自动构造监督信息，来进行监督学习或训练。自监督学习可以被看作是机器学习的一种“理想状态”，模型直接从无标记数据中自行学习，无需标注数据。自监督学习的核心，在于如何自动为数据产生标签，例如输入一张图片，把图片随机旋转一个角度，然后把旋转后的图片作为输入，随机旋转的角度作为标签。再例如，把输入的图片均匀分割成3*3的格子，每个格子里面的内容作为一个patch，随机打乱patch的排列顺序，然后用打乱顺序的patch作为输入，正确的排列顺序作为类别标签。类似这种自动产生的标注，完全无需人工参与。
[0005]还有一类自监督学习方法是基于对比约束，它通过学习对两个事物的相似或不相似进行编码来构建表征，这类方法的性能目前来说是非常强的，即通过构建正样本(positive)和负样本(negative)，然后度量正负样本的距离来实现自监督学习。但是，基于遥感图像，采用人工标注的方法进行正样本和负样本的构建，构建效率极低，而快速且有效的正样本和负样本的构建方法一致缺乏。

技术实现思路

[0006]本专利技术提供一种遥感图像自监督训练方法、装置和电子设备，用以解决现有技术中模型自监督训练时通过人工标注的方法构建正样本和负样本，构建效率低的缺陷，实现一种能够快速、有效构建正样本和负样本的遥感图像特征提取模型的自监督训练方法。
[0007]本专利技术提供一种遥感图像自监督训练方法，包括：
[0008]基于目标成果数据对遥感图像进行区域划分，将所述遥感图像划分为多个图斑，各所述图斑对应有类别属性；
[0009]对区域划分后的所述遥感图像进行分块处理并基于分块中的所述图斑的属性对所述分块进行筛选得到遥感子图像集；
[0010]基于所述遥感子图像集中的各遥感子图像与其余遥感子图像之间的相似性，获得各所述遥感子图像的正样本和负样本；
[0011]采用各所述遥感子图像及对应的所述正样本和所述负样本对初始遥感图像特征提取模型进行自监督训练，得到遥感图像特征提取模型。
[0012]根据本专利技术提供的一种遥感图像自监督训练方法，所述基于目标成果数据对遥感图像进行区域划分，将所述遥感图像划分为多个图斑，各所述图斑对应有类别属性，包括：
[0013]基于所述遥感图像获得目标成果数据；
[0014]将所述目标成果数据与所述遥感图像进行空间重叠配准，从而根据所述目标成果数据将所述遥感图像划分为多个图斑；
[0015]根据所述目标成果数据定义各所述图斑的类别属性。
[0016]根据本专利技术提供的一种遥感图像自监督训练方法，所述对区域划分后的所述遥感图像进行分块处理，包括：
[0017]设定滑动窗口和滑动步长，所述滑动步长的大小小于等于滑动窗口在滑动方向上的宽度；
[0018]采用从左至右，从上至下的顺序，以所述滑动步长移动所述滑动窗口对区域划分后的所述遥感图像进行分块处理。
[0019]根据本专利技术提供的一种遥感图像自监督训练方法，所述基于分块中的所述图斑的属性对所述分块进行筛选得到遥感子图像集，包括：
[0020]计算各所述分块中各类别属性的图斑的面积比例；
[0021]当所述分块中各类别属性的所述图斑的面积比例均低于预设阈值时，筛除所述分块；
[0022]当所述分块中一个类别属性的所述图斑的面积比例高于所述预设阈值时，保留所述分块，组成遥感子图像集。
[0023]根据本专利技术提供的一种遥感图像自监督训练方法，所述基于所述遥感子图像集中
的各遥感子图像与其余遥感子图像之间的相似性，获得各所述遥感子图像的正样本和负样本，包括：
[0024]计算所述遥感图像集中各遥感子图像与其余遥感子图像之间的相似性，将具有相似性的遥感子图像定义为正样本，将不具有相似性的遥感子图像定义为负样本；
[0025]其中，各所述遥感子图像中，主要类别属性相同的为具有相似性，主要类别属性不相同的为不具有相似性。
[0026]根据本专利技术提供的一种遥感图像自监督训练方法，所述采用各所述遥感子图像及对应的所述正样本和所述负样本对初始遥感图像特征提取模型进行自监督训练，得到遥感图像特征本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种遥感图像自监督训练方法，其特征在于，包括：基于目标成果数据对遥感图像进行区域划分，将所述遥感图像划分为多个图斑，各所述图斑对应有类别属性；对区域划分后的所述遥感图像进行分块处理并基于分块中的所述图斑的属性对所述分块进行筛选得到遥感子图像集；基于所述遥感子图像集中的各遥感子图像与其余遥感子图像之间的相似性，获得各所述遥感子图像的正样本和负样本；采用各所述遥感子图像及对应的所述正样本和所述负样本对初始遥感图像特征提取模型进行自监督训练，得到遥感图像特征提取模型。2.根据权利要求1所述的遥感图像自监督训练方法，其特征在于，所述基于目标成果数据对遥感图像进行区域划分，将所述遥感图像划分为多个图斑，各所述图斑对应有类别属性，包括：基于所述遥感图像获得目标成果数据；将所述目标成果数据与所述遥感图像进行空间重叠配准，从而根据所述目标成果数据将所述遥感图像划分为多个图斑；根据所述目标成果数据定义各所述图斑的类别属性。3.根据权利要求1所述的遥感图像自监督训练方法，其特征在于，所述对区域划分后的所述遥感图像进行分块处理，包括：设定滑动窗口和滑动步长，所述滑动步长的大小小于等于滑动窗口在滑动方向上的宽度；采用从左至右，从上至下的顺序，以所述滑动步长移动所述滑动窗口对区域划分后的所述遥感图像进行分块处理。4.根据权利要求3所述的遥感图像自监督训练方法，其特征在于，所述基于分块中的所述图斑的属性对所述分块进行筛选得到遥感子图像集，包括：计算各所述分块中各类别属性的图斑的面积比例；当所述分块中各类别属性的所述图斑的面积比例均低于预设阈值时，筛除所述分块；当所述分块中一个类别属性的所述图斑的面积比例高于所述预设阈值时，保留所述分块，组成遥感子图像集。5.根据权利要求1至4任一项所述的遥感图像自监督训练方法，其特征在于，所述基于所述遥感子图像集中的各遥感子图像与其余遥感子图像之间的相似性，获得各所述遥感子图像的正样本和负样本，包括：计算所述遥感图像集中各遥感子图像与其余...

【专利技术属性】
技术研发人员：霍连志，白晓飞，张嘉，孟瑜，唐娉，
申请(专利权)人：中国国土勘测规划院，
类型：发明
国别省市：