【技术实现步骤摘要】
本专利技术属于遥感图像领域，具体涉及遥感基础模型构建方法及系统。
技术介绍
1、近年来，由于信息和通信技术的无缝融合，遥感领域正在经历一场变革性的革命。这催生了智能遥感的新兴领域，它在地球观测数据采集、资源管理优化和数据解译能力增强等领域具有相当大的潜力。智能遥感的成功得益于几个学科的进步，包括卫星成像、地理信息系统、机器学习、数据分析、统计方法、云计算和地球科学，使决策者能够在环境监测、危害评估、城市规划和精准农业方面做出明智和可持续的选择。尽管如此，从海量遥感数据源中提取相关知识是一个巨大的障碍。传统的数据挖掘方法在试图从如此复杂的信息中挖掘出高级特征表示时经常遇到障碍。
2、相比之下，深度学习在处理复杂的高维数据、特征提取和学习高质量图像表示方面表现出了非凡的能力，并在各种遥感场景中表现出了值得称赞的性能。尽管取得了进步，但基于深度学习的方法主要依赖于监督训练，这需要大规模、高质量和特定任务的标注数据集。然而，收集和注释此类数据集的过程需要大量的时间、资源分配和大量的财政投资，从而为资源受限的应用设置了巨大的障碍。此外，所获取的数据集经常表现出有限的适用性，甚至在遥感领域内的类似场景或应用。这种情况迫使在数据收集和模型开发阶段都需要重复迭代。这种迭代过程不仅导致了时间和财务方面的累积费用，而且阻碍了深度学习框架在遥感应用中的更广泛适用性、有效性和可扩展性。
3、已经提出了许多策略来应对上述挑战，包括迁移学习、小样本学习、标签高效学习等。特别是，迁移学习，尤其是在遥感应用和其他应用中，利用在大规模图像
4、最近，基础模型在计算机视觉领域取得了显著的成功。基础模型通常通过自监督学习方法在大规模数据集上进行预训练，并且能够以最小的微调标记数据来处理各种下游任务。此外，基础模型促进了知识的跨领域转移和共享，减少了专门针对特定任务定制数据的必要性。与传统的人工智能模型相比，基础模型的优势可以概括为：(1)通用知识：通过在广泛的数据集上进行预训练，基础模型产生了一种“通用智能”形式，包括计算机视觉领域的综合知识。(2)微调灵活性：基础模型擅长为特定任务或数据集进行微调。它从一开始就有效地避开了对广泛模型训练的需求，从而节省了计算资源和时间花费。(3)数据效率：即使在面对有限的特定任务数据时，基础模型也显示出非凡的能力，这对存在注释稀缺问题的真实场景非常有效。
技术实现思路
1、本专利技术的目的是针对现有遥感基础模型只注重样本实例或像素间的关联性，忽略了对遥感图像变化检测任务至关重要的多尺度特征和频率信息，导致模型泛化能力不足、遥感图像变化检测准确率低，而提出基于稀疏编码和低频重建的遥感基础模型构建方法及系统。
2、基于稀疏编码和低频重建的遥感基础模型构建方法具体过程为：
3、步骤1：构建无标注遥感图像样本集；
4、步骤2：设置理想的圆形低通滤波器的截止频率为r；
5、小于等于理想的圆形低通滤波器截止频率r的频率为低频频率；
6、大于理想的圆形低通滤波器截止频率r的频率为高频频率；
7、将遥感图像在频率空间的高频频率滤去，只保留遥感图像在频率空间的低频频率，低频分量用于生成低频重建目标1；
8、步骤3：采用骨干网络-解码器网络对遥感图像的掩码区域进行像素重建，基于重建的掩码区域和非掩码区域获得重建目标2；
9、骨干网络为convnext网络；
10、解码器网络依次包含第一解码器块、第二解码器块、第三解码器块、第一上采样层、第二上采样层；
11、每个解码器块依次包含一个转置卷积层、两个3×3卷积层、批量归一化和relu激活层；
12、步骤4：基于步骤1构建的无标注遥感图像样本集对骨干网络-解码器网络进行自监督预训练，自监督预训练优化目标为最小化重建目标1和重建目标2在掩码位置上的归一化像素误差；得到预训练好的骨干网络-解码器网络；
13、步骤5：将步骤4得到的预训练好的骨干网络连接bit变化检测头构建变化检测网络，使用遥感图像像素级标注样本对变化检测网络的参数进行训练，获得训练好的变化检测网络；
14、步骤6：将待测的同一地区不同时间的一对遥感图像输入训练好的变化检测网络进行变化检测。
15、基于稀疏编码和低频重建的遥感基础模型构建系统用于执行基于稀疏编码和低频重建的遥感基础模型构建方法。
16、有益效果
17、本专利技术提出基于稀疏编码和低频重建的遥感基础模型构建方法，减少了深度学习算法对标注数据的依赖性，进一步提升了遥感图像变化检测任务的精度。
18、本专利技术与现有技术相比具有明显的有益效果，借由上述技术方案，本专利技术提供的方法可达到相当的技术进步性和实用性，并具有产业上的广泛利用价值，其至少具有以下有益效果：
19、(1)本专利技术可以有效解决现有基于深度学习的遥感图像变化检测方法对标注数据依赖严重的问题，大大减少了对标注数据的需求；
20、(2)本专利技术可以显著提升遥感变化检测任务的准确率，同时相较于现有的遥感基础模型，本专利技术所提出的构建方法简单有效，具有很好地应用价值；
21、(3)本专利技术基于稀疏编码和低频重建的遥感基础模型构建方法，属于遥感图像处理领域。针对现有遥感基础模型忽略了多尺度特征和频率信息，本专利技术提出基于稀疏编码和低频重建的遥感基础模型构建方法。具体来说，构建了包含数百万无标注样本的预训练数据集，提高了模型识别和理解不同对象和场景的熟练程度，同时增强了其鲁棒性和泛化能力。此外，构建低频重建目标分支以引导模型关注遥感图像中的基本地物特征，同时减少不必要的细节干扰。最后，构建用于掩码图像重建的神经网络模型，并提出了稀疏建模自监督框架，允许卷积基础模型通过将未掩码的补丁视为体素并采用稀疏编码器来处理可变长度的序列。通过低频重建目标分支和稀疏建模自监督框架的集成，本专利技术提出的遥感基础模型可以学习鲁棒且信息丰富的特征表示，提高了遥感基础模型对各类下游任务的准确率。
本文档来自技高网...【技术保护点】
1.基于稀疏编码和低频重建的遥感基础模型构建方法，其特征在于：所述方法具体过程为：
2.根据权利要求1所述的基于稀疏编码和低频重建的遥感基础模型构建方法，其特征在于：所述所述步骤1中构建无标注遥感图像样本集；具体过程为：
3.根据权利要求2所述的基于稀疏编码和低频重建的遥感基础模型构建方法，其特征在于：所述步骤2中设置理想的圆形低通滤波器的截止频率为r；
4.根据权利要求3所述的基于稀疏编码和低频重建的遥感基础模型构建方法，其特征在于：所述步骤3中采用骨干网络-解码器网络对遥感图像像的掩码区域进行像素重建，基于重建的掩码区域和非掩码区域获得重建目标2；具体过程为：
5.根据权利要求4所述的基于稀疏编码和低频重建的遥感基础模型构建方法，其特征在于：所述步骤4中骨干网络-解码器网络的损失函数为：
6.根据权利要求5所述的基于稀疏编码和低频重建的遥感基础模型构建方法，其特征在于：所述将步骤5中将步骤4得到的预训练好的骨干网络连接BiT变化检测头构建变化检测网络，使用遥感图像像素级标注样本对变化检测网络的参数进行训练，获得训练好
7.基于稀疏编码和低频重建的遥感基础模型构建方法系统，其特征在于：所述系统用于执行基于稀疏编码和低频重建的遥感基础模型构建方法。
...【技术特征摘要】
1.基于稀疏编码和低频重建的遥感基础模型构建方法，其特征在于：所述方法具体过程为：
2.根据权利要求1所述的基于稀疏编码和低频重建的遥感基础模型构建方法，其特征在于：所述所述步骤1中构建无标注遥感图像样本集；具体过程为：
3.根据权利要求2所述的基于稀疏编码和低频重建的遥感基础模型构建方法，其特征在于：所述步骤2中设置理想的圆形低通滤波器的截止频率为r；
4.根据权利要求3所述的基于稀疏编码和低频重建的遥感基础模型构建方法，其特征在于：所述步骤3中采用骨干网络-解码器网络对遥感图像像的掩码区域进行像素重建，基于重建的掩码区域和非掩码区域获得...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。