【技术实现步骤摘要】
本专利技术涉及遥感影像，尤其涉及一种基于交叉视图对比的遥感影像自监督分类的方法与介质。
技术介绍
1、遥感影像分类是遥感领域的一个重要研究问题。由于遥感影像的复杂性、获取大量未标记的图像相对容易但是难以获得足够的标记、人为标记准确度不高等现状。常见处理遥感影像的方法多为监督学习如最大似然法、神经网络法、支持向量机法等，处理起来缺乏效率且消耗大量人力。而自监督学习属于无监督学习的一个子集，通过创建pretext任务生成伪标签，让模型从数据中学习，从而获得有用的表示，之后用于downstream任务中来评估改善模型。因为监督信号直接从数据本身派生，所以它不需要额外的人工标签数据。
2、目前，一些研究员提出使用深度学习的解决方案，特别是利用卷积神经网络(convolutional neural networks)，卷积神经网络由一个或多个卷积层和顶端的全连通层(对应经典的神经网络)组成，同时也包括关联权重和池化层(pooling layer)。这一结构使得卷积神经网络能够利用输入数据的二维结构。与其他深度学习结构相比，卷积神经网络在图像识别方面能够给出更好的结果。
3、卷积神经网络是现在遥感影像场景分类中最先进的解决方案。然而，卷积神经网络模型需要大量的注释数据，如果通过人为对遥感影像进行大量的标注，将可能产生昂贵和耗时的人工成本。城市遥感影像空间分辨率高，包含丰富的细节，在图像处理和特征提取的过程中，会增加计算成本；在城市场景中，建筑、道路类型占比通常较大，其他地物类型占比有限，对于分类模型的性能来说会有影响
4、因此，针对城市场景复杂、遥感影像标记样本少、分类精度不高等问题，基于已有自监督学习(self-supervised learning)、深度学习(deep learning)的发展现状和趋势，如何研究提出一种针对较少标注的遥感影像分类方法，是本领域技术人员所亟待解决的技术问题。
技术实现思路
1、为了解决现有技术中的问题，本专利技术提供了一种基于交叉视图对比的遥感影像自监督分类的方法与介质。
2、本专利技术提供了一种基于交叉视图对比的遥感影像自监督分类的方法，包括以下步骤：
3、s1、数据处理；
4、s2、初始化阶段；
5、s3、辅助任务阶段；
6、s4、重复迭代训练；
7、s5、下游任务阶段；
8、s6、模型测试阶段。
9、作为本专利技术的进一步改进，步骤s1的数据处理包括：收集少量已标注类型的遥感影像数据l和大量无标注的遥感数据u，按照比率r分割成测试集stest和含已标注数据的训练集ltrain、不含已标注数据的训练集utrain，训练集中包括每种分类类型的遥感影像。
10、作为本专利技术的进一步改进，步骤s2的初始化阶段包括：使用efficientnet-b4 cnn模型作为特征编码模块的主干，设置随机权重，使用训练集ltrain对efficientnet-b4 cnn模型进行初始化。
11、作为本专利技术的进一步改进，步骤s3的辅助任务阶段包括：从无标注训练集utrain取出图像，对图像进行不同的几何变换，获得同一图像的两个不同增强视图，将构建好的两个增强视图进行自监督对比学习，对最终产生的两个结果相似度损失计算，损失函数基于余弦相似性。
12、作为本专利技术的进一步改进，在步骤s3中，从无标注训练集utrain取出图像，对图像进行下采样处理，再对下采样的图像进行不同的几何变换。
13、作为本专利技术的进一步改进，在步骤s3中，将构建好的两个增强视图分别通过基准网络和目标网络进行自监督对比学习，基准网络的权重通过反向传播算法进行正常更新，而目标网络则通过基准网络权重的指数滑动平均值进行更新，目标网络最终生成的结果为基准网络提供了回归目标，设目标网络参数ξ是基准网络参数θ的指数滑动平均值，给定每次迭代后目标衰减率τ∈[0,1]，每次参数更新有：
14、ξ→τξ+(1-τ)θ。
15、作为本专利技术的进一步改进，步骤s4的重复迭代训练包括：在训练集utrain上重复步骤s3，直到模型性能满足要求，此时得到预训练模型hθ。
16、作为本专利技术的进一步改进，步骤s5的下游任务阶段包括：从训练集获取图像，将原始图像与获取的图像增强后的视图输入到预训练模型hθ中，对预训练模型进行微调，对两个分支都附加输出层，最终融合两个分支输出的分类概率，并计算获取的图像的平均分类概率，获得微调后的模型m。
17、作为本专利技术的进一步改进，步骤s6的模型测试阶段包括：利用测试集对所获得的模型m进行测试评估。
18、本专利技术还提供了一种可读存储介质，所述可读存储介质中存储有执行指令，所述执行指令被处理器执行时用于实现所述的方法。
19、本专利技术的有益效果是：基于交叉视图对比的自监督学习对遥感影像进行分类，对于每种分类类型只需要极少(15个左右)的人工标注，在downstream任务阶段使用下采样的方法，构建全局特征提取与局部特征提取两条学习分支，通过这种架构减少对全局特征提取的计算资源需求，并且保持图像在学习时完整性，对学习效率有提升。
本文档来自技高网...【技术保护点】
1.一种基于交叉视图对比的遥感影像自监督分类的方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的基于交叉视图对比的遥感影像自监督分类的方法，其特征在于：步骤S1的数据处理包括：收集少量已标注类型的遥感影像数据L和大量无标注的遥感数据U，按照比率R分割成测试集Stest和含已标注数据的训练集Ltrain、不含已标注数据的训练集Utrain，训练集中包括每种分类类型的遥感影像。
3.根据权利要求1所述的基于交叉视图对比的遥感影像自监督分类的方法，其特征在于：步骤S2的初始化阶段包括：使用EfficientNet-B4 CNN模型作为特征编码模块的主干，设置随机权重，使用训练集Ltrain对EfficientNet-B4 CNN模型进行初始化。
4.根据权利要求1所述的基于交叉视图对比的遥感影像自监督分类的方法，其特征在于：步骤S3的辅助任务阶段包括：从无标注训练集Utrain取出图像，对图像进行不同的几何变换，获得同一图像的两个不同增强视图，将构建好的两个增强视图进行自监督对比学习，对最终产生的两个结果相似度损失计算，损失函数基于余弦相似性
5.根据权利要求4所述的基于交叉视图对比的遥感影像自监督分类的方法，其特征在于：在步骤S3中，从无标注训练集Utrain取出图像，对图像进行下采样处理，再对下采样的图像进行不同的几何变换。
6.根据权利要求4所述的基于交叉视图对比的遥感影像自监督分类的方法，其特征在于：在步骤S3中，将构建好的两个增强视图分别通过基准网络和目标网络进行自监督对比学习，基准网络的权重通过反向传播算法进行正常更新，而目标网络则通过基准网络权重的指数滑动平均值进行更新，目标网络最终生成的结果为基准网络提供了回归目标，设目标网络参数ξ是基准网络参数θ的指数滑动平均值，给定每次迭代后目标衰减率τ∈[0,1]，每次参数更新有：
7.根据权利要求1所述的基于交叉视图对比的遥感影像自监督分类的方法，其特征在于：步骤S4的重复迭代训练包括：在训练集Utrain上重复步骤S3，直到模型性能满足要求，此时得到预训练模型Hθ。
8.根据权利要求7所述的基于交叉视图对比的遥感影像自监督分类的方法，其特征在于：步骤S5的下游任务阶段包括：从训练集获取图像，将原始图像与获取的图像增强后的视图输入到预训练模型Hθ中，对预训练模型进行微调，对两个分支都附加输出层，最终融合两个分支输出的分类概率，并计算获取的图像的平均分类概率，获得微调后的模型M。
9.根据权利要求8所述的基于交叉视图对比的遥感影像自监督分类的方法，其特征在于：步骤S6的模型测试阶段包括：利用测试集对所获得的模型M进行测试评估。
10.一种可读存储介质，其特征在于：所述可读存储介质中存储有执行指令，所述执行指令被处理器执行时用于实现如权利要求1至9中任一项所述的方法。
...【技术特征摘要】
1.一种基于交叉视图对比的遥感影像自监督分类的方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的基于交叉视图对比的遥感影像自监督分类的方法，其特征在于：步骤s1的数据处理包括：收集少量已标注类型的遥感影像数据l和大量无标注的遥感数据u，按照比率r分割成测试集stest和含已标注数据的训练集ltrain、不含已标注数据的训练集utrain，训练集中包括每种分类类型的遥感影像。
3.根据权利要求1所述的基于交叉视图对比的遥感影像自监督分类的方法，其特征在于：步骤s2的初始化阶段包括：使用efficientnet-b4 cnn模型作为特征编码模块的主干，设置随机权重，使用训练集ltrain对efficientnet-b4 cnn模型进行初始化。
4.根据权利要求1所述的基于交叉视图对比的遥感影像自监督分类的方法，其特征在于：步骤s3的辅助任务阶段包括：从无标注训练集utrain取出图像，对图像进行不同的几何变换，获得同一图像的两个不同增强视图，将构建好的两个增强视图进行自监督对比学习，对最终产生的两个结果相似度损失计算，损失函数基于余弦相似性。
5.根据权利要求4所述的基于交叉视图对比的遥感影像自监督分类的方法，其特征在于：在步骤s3中，从无标注训练集utrain取出图像，对图像进行下采样处理，再对下采样的图像进行不同的几何变换。
6.根据权利要求4所述的基...
【专利技术属性】
技术研发人员：杨臻，周淑媛，王鹏皓，
申请(专利权)人：深圳航天智慧城市系统技术研究院有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。