System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于迁移学习的半监督高分辨率遥感图像变化检测方法技术_技高网

基于迁移学习的半监督高分辨率遥感图像变化检测方法技术

技术编号:43283764 阅读:21 留言:0更新日期:2024-11-12 16:06
本发明专利技术属于图像处理技术领域,公开了一种基于迁移学习的半监督高分辨率遥感图像变化检测方法,将全监督过程中训练得到的模型参数作为无监督学习过程中的初始模型参数;无监督学习中,将深度特征提取模块的输出特征图经过随机扰动差异化获得多个扰动特征图,深度特征提取模块的输出特征图和多个扰动特征图分别采用解码器获得包含变化信息的多个预测变化图,得到无监督学习后的模型参数;基于无监督学习后的模型参数进行迁移学习,获得新的模型参数;利用新的模型参数对目标领域数据进行变化检测。本发明专利技术将源领域训练得到的深度学习模型通过迁移学习技术应用到目标领域,帮助目标领域的变化检测模型具有更好的检测性能。

【技术实现步骤摘要】

本专利技术属于图像处理,具体涉及一种基于迁移学习的半监督高分辨率遥感图像变化检测方法


技术介绍

1、遥感图像变化检测在土地利用监测、城市规划、自然灾害监测等中应用广泛。随着深度学习技术在图像处理分析领域的深入,现有的遥感图像变化检测主要集中在全监督深度神经网络模型上,需要大量标注样本来支撑网络模型的训练过程。而不同领域的遥感图变化检测需求中所检测的变化地物存在一定差异,导致不同领域需要大量不同的标注样本。

2、随着遥感探测技术的飞速发展,遥感变化检测的应用中能够更容易获取大量未标记的遥感图像。由于现有的深度学习算法多依靠大量的标记数据进行训练,这需要花费大量的时间和算力成本。在某些任务中,标记数据可能非常稀缺,导致难以从头开始训练模型。然而,在其他相近任务中,已有大量标记数据,经过训练可以获得较优的模型。迁移学习在源域学习到的知识可以迁移到目标域中。利用深度学习的迁移学习,模型的权重参数无需从头开始训练,不仅可以显著减少训练时间,也可以降低标记数据的需求。

3、现有的迁移学习主要使用全监督-迁移学习过程,然而,由于源领域和目标领域之间的差异大、领域间偏移或存在多种因素干扰等,导致效果迁移效果不佳。


技术实现思路

1、针对迁移学习在遥感图像变化检测任务中源领域与目标领域之间存在领域偏差,本专利技术提出了一种基于迁移学习的半监督高分辨率遥感图像变化检测方法,相较于全监督-迁移学习过程,本专利技术在源领域采用了全监督-无监督的半监督模型,在源领域引入了无标签的训练过程,能更好地适应目标领域少样本的模型优化;并针对变化检测中特征差异分析,提出特征值轮换-置换方式,为适应源领域与目标领域对变化目标理解上的差异。

2、本专利技术通过下述技术方案来实现。一种基于迁移学习的半监督高分辨率遥感图像变化检测方法,包括全监督学习过程、无监督学习过程和迁移学习过程;

3、源领域数据包括标签数据和无标签数据;

4、全监督学习过程利用源领域的标签数据,采用编码器获取带标签的变化前图像和变化后图像的隐藏特征,并计算特征差异图,通过深度特征提取模块对特征差异图进行特征提取,得到深度特征提取模块的输出特征图,采用解码器解码所得输出特征图,获得包含变化信息的预测变化图;

5、将全监督过程中训练得到的模型参数作为无监督学习过程中的初始模型参数;

6、无监督学习过程利用源领域的无标签数据,采用编码器获取无标签的变化前图像和变化后图像的隐藏特征,并计算特征差异图,经过对特征差异图进行特征提取,得到深度特征提取模块的输出特征图,深度特征提取模块的输出特征图经过随机扰动差异化获得多个扰动特征图,深度特征提取模块的输出特征图和多个扰动特征图分别采用解码器获得包含变化信息的多个预测变化图;得到无监督学习后的模型参数;

7、基于无监督学习后的模型参数进行迁移学习,迁移学习过程利用目标领域的少量标签数据和部分无标签数据,再次进行全监督学习和无监督学习,获得新的模型参数;利用新的模型参数对目标领域数据进行变化检测。

8、进一步优选,所述深度特征提取模块包括n个残差组,残差组1的输入为特征差异图,残差组j-1的输出作为残差组j的输入,j=2,…,n-1,n;将残差组1到残差组n的输出输入到全局特征融合模块,全局特征融合模块输出的结果与特征差异图相加得到深层特征提取模块的输出特征图。

9、进一步优选,所述残差组由l个残差注意力模块和1个3×3卷积组成;首先,通过relu激活函数将残差注意力模块中的两个3×3卷积进行连接,其次,在残差组中嵌入了坐标注意力模块;将输入特征为,表示第k个残差组中第l-1个残差注意力模块的输出特征图,第k个残差组中第l个残差注意力模块的输出特征图为:

10、;

11、其中,表示第k个残差组中第l个残差注意力模块,表示第k个残差组中第l-1个残差注意力模块,表示第k个残差组中第1个残差注意力模块。

12、进一步优选,所述全局特征融合模块,输入特征首先通过一个1×1卷积操作处理,然后被送入通道混洗模块;通道混洗模块将特征图细分为4个子特征图,并对每个子特征图进行重新划分,以表示生成的子特征图,i,表示每个子特征图相对应的卷积处理,代表的输出;将子特征图与前一个卷积层的输出相加,然后将结果送入下一个卷积层进行处理。

13、进一步优选,无监督学习过程中,特征差异图经过深层特征提取模块后分成两条分支,第一条分支直接输出深层特征提取模块的输出特征图,经过解码器得到包含变化信息的预测变化图;第二条分支将深层特征提取模块的输出特征图经随机扰动处理得到np个扰动特征图,...,,扰动特征图分别经解码器得到np个包含变化信息的预测变化图, ..., ,其中代表深层特征提取模块的输出特征图经随机扰动处理得到第1个扰动特征图,代表深层特征提取模块的输出特征图经随机扰动处理得到第np个扰动特征图,代表解码得到的预测变化图,代表解码得到的预测变化图;

14、进一步优选,无监督过程中,随机扰动处理包括特征值区间轮换处理:

15、;

16、;

17、其中,表示轮换前特征图的第u行第v列的特征值,表示轮换处理时特征图的第u行第v列的中间特征值,表示轮换后特征图的第u行第v列的特征值,表示一个特征值区间,表示轮换的区间跨度数量,表示特征值取值范围;表示特征值取值范围。

18、进一步优选,无监督过程中,随机扰动处理包括特征值区间置换处理,将特征值范围平均分成8个区间,表示为:,表示第1个特征值区间,表示第2个特征值区间,表示第3个特征值区间,表示第4个特征值区间,表示第5个特征值区间,表示第6个特征值区间,表示第7个特征值区间,表示第8个特征值区间;特征值区间,则有,,...,; 表示特征值最大值;表示特征值最小值;做2次特征值区间置换处理,第1次置换后的顺序为;第2次置换后的顺序为。

19、以第一条分支输出的预测变化图为基准,将第二条分支输出的每张预测变化图与基准进行比较并计算损失。

20、进一步优选,使用交叉熵损失作为全监督损失。

21、进一步优选,在无监督阶段,定义无标签数据集为,其中是第i对无标签变化图像对,为第i幅无标签的变化前图像,为第i幅无标签的变化后图像,为无标签数据集的大小,采用一个基于无标签数据的无监督损失,使用无标签的变化图像对得到的特征差异图,而作为随机扰动后的特征图集合,为无标签的变化图像对对应的随机扰动后的第i个扰动特征图,为无标签的变化图像对对应的随机扰动后的第p个扰动特征图,为无标签的变化图像对对应的随机扰动后的第np个扰动特征图;

22、通过解码器得到预测变化图,通过np个辅助解码器对每个扰动特征图进行处理,得到相应的预测变化图:

23、;

24、;

25、无监督损失为:

26、;

27、其中是一个距离度量。

28、进本文档来自技高网...

【技术保护点】

1.一种基于迁移学习的半监督高分辨率遥感图像变化检测方法,包括全监督学习过程、无监督学习过程和迁移学习过程;其特征在于:

2.根据权利要求1所述的基于迁移学习的半监督高分辨率遥感图像变化检测方法,其特征在于:所述深度特征提取模块包括n个残差组,残差组1的输入为特征差异图,残差组j-1的输出作为残差组j的输入,j=2,…,n-1,n;将残差组1到残差组n的输出输入到全局特征融合模块,全局特征融合模块输出的结果与特征差异图相加得到深层特征提取模块的输出特征图。

3.根据权利要求2所述的基于迁移学习的半监督高分辨率遥感图像变化检测方法,其特征在于:所述残差组由L个残差注意力模块和1个3×3卷积组成;首先,通过ReLU激活函数将残差注意力模块中的两个3×3卷积进行连接,其次,在残差组中嵌入了坐标注意力模块;将输入特征为,表示第K个残差组中第L-1个残差注意力模块的输出特征图,第K个残差组中第L个残差注意力模块的输出特征图为:

4.根据权利要求2所述的基于迁移学习的半监督高分辨率遥感图像变化检测方法,其特征在于:所述全局特征融合模块,输入特征首先通过一个1×1卷积操作处理,然后被送入通道混洗模块;通道混洗模块将特征图细分为4个子特征图,并对每个子特征图进行重新划分,以表示生成的子特征图,i,表示每个子特征图相对应的卷积处理,代表的输出;将子特征图与前一个卷积层的输出相加,然后将结果送入下一个卷积层进行处理。

5.根据权利要求1所述的基于迁移学习的半监督高分辨率遥感图像变化检测方法,其特征在于:无监督学习过程中,特征差异图经过深层特征提取模块后分成两条分支,第一条分支直接输出深层特征提取模块的输出特征图,经过解码器得到包含变化信息的预测变化图;第二条分支将深层特征提取模块的输出特征图经随机扰动处理得到NP个扰动特征图,...,,扰动特征图分别经解码器得到NP个包含变化信息的预测变化图, ..., ,其中代表深层特征提取模块的输出特征图经随机扰动处理得到第1个扰动特征图,代表深层特征提取模块的输出特征图经随机扰动处理得到第NP个扰动特征图,代表解码得到的预测变化图,代表解码得到的预测变化图;

6.根据权利要求1所述的基于迁移学习的半监督高分辨率遥感图像变化检测方法,其特征在于:无监督过程中,随机扰动处理包括特征值区间轮换处理:

7.根据权利要求1所述的基于迁移学习的半监督高分辨率遥感图像变化检测方法,其特征在于:无监督过程中,随机扰动处理包括特征值区间置换处理,将特征值范围平均分成8个区间,表示为:,表示第1个特征值区间,表示第2个特征值区间,表示第3个特征值区间,表示第4个特征值区间,表示第5个特征值区间,表示第6个特征值区间,表示第7个特征值区间,表示第8个特征值区间;特征值区间,则有,,...,; 表示特征值最大值;表示特征值最小值;做2次特征值区间置换处理,第1次置换后的顺序为;第2次置换后的顺序为。

8.根据权利要求1所述的基于迁移学习的半监督高分辨率遥感图像变化检测方法,其特征在于:使用交叉熵损失作为全监督损失。

9.根据权利要求8所述的基于迁移学习的半监督高分辨率遥感图像变化检测方法,其特征在于:在无监督阶段,定义无标签数据集为,其中是第i对无标签变化图像对,为第i幅无标签的变化前图像,为第i幅无标签的变化后图像,为无标签数据集的大小,采用一个基于无标签数据的无监督损失,使用无标签的变化图像对得到的特征差异图,而作为随机扰动后的特征图集合,为无标签的变化图像对对应的随机扰动后的第i个扰动特征图,为无标签的变化图像对对应的随机扰动后的第p个扰动特征图,为无标签的变化图像对对应的随机扰动后的第NP个扰动特征图;

10.根据权利要求8所述的基于迁移学习的半监督高分辨率遥感图像变化检测方法,其特征在于:总体损失函数定义如下:

...

【技术特征摘要】

1.一种基于迁移学习的半监督高分辨率遥感图像变化检测方法,包括全监督学习过程、无监督学习过程和迁移学习过程;其特征在于:

2.根据权利要求1所述的基于迁移学习的半监督高分辨率遥感图像变化检测方法,其特征在于:所述深度特征提取模块包括n个残差组,残差组1的输入为特征差异图,残差组j-1的输出作为残差组j的输入,j=2,…,n-1,n;将残差组1到残差组n的输出输入到全局特征融合模块,全局特征融合模块输出的结果与特征差异图相加得到深层特征提取模块的输出特征图。

3.根据权利要求2所述的基于迁移学习的半监督高分辨率遥感图像变化检测方法,其特征在于:所述残差组由l个残差注意力模块和1个3×3卷积组成;首先,通过relu激活函数将残差注意力模块中的两个3×3卷积进行连接,其次,在残差组中嵌入了坐标注意力模块;将输入特征为,表示第k个残差组中第l-1个残差注意力模块的输出特征图,第k个残差组中第l个残差注意力模块的输出特征图为:

4.根据权利要求2所述的基于迁移学习的半监督高分辨率遥感图像变化检测方法,其特征在于:所述全局特征融合模块,输入特征首先通过一个1×1卷积操作处理,然后被送入通道混洗模块;通道混洗模块将特征图细分为4个子特征图,并对每个子特征图进行重新划分,以表示生成的子特征图,i,表示每个子特征图相对应的卷积处理,代表的输出;将子特征图与前一个卷积层的输出相加,然后将结果送入下一个卷积层进行处理。

5.根据权利要求1所述的基于迁移学习的半监督高分辨率遥感图像变化检测方法,其特征在于:无监督学习过程中,特征差异图经过深层特征提取模块后分成两条分支,第一条分支直接输出深层特征提取模块的输出特征图,经过解码器得到包含变化信息的预测变化图;第二条分支将深层特征提取模块的输出特征图经随机扰动处理得到np个扰动特征图,...,,扰动特征图分别经解码器得到np个包含变化信息的预测变...

【专利技术属性】
技术研发人员:胡蕾李云洪李苏鹏黄莉
申请(专利权)人:江西师范大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1