System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 面向遥感影像的多尺度压缩方法技术_技高网

面向遥感影像的多尺度压缩方法技术

技术编号:40592468 阅读:3 留言:0更新日期:2024-03-12 21:53
本发明专利技术涉及一种面向遥感影像的多尺度压缩方法,包括以下步骤S1、对于输入模型,在特征空间中,通过卷积扩张提高感受野范围;S2、在所述特征空间中,通过对链接参数层激活约束,对特征进行筛选;S3、通过等价映射将所述特征空间映射到参数空间,利用线性合并的方式进行重参数化,获得紧致模型。本发明专利技术,通过在特征空间中进行卷积扩张提高了感受野范围,提升了尺度信息的丰富性;通过对链接参数层激活约束,对特征进行筛选压缩,并利用线性合并的方式进行重参数化,获得紧致模型,有效保证了模型的表征能力。

【技术实现步骤摘要】

本专利技术涉及遥感,尤其涉及一种面向遥感影像的多尺度压缩方法


技术介绍

1、遥感影像中存在尺度变化大(即遥感影像分辨率范围高)和核心地物稀疏(即目标地物所占比例小)的特点。现有主流多尺度提取策略处理这类场景时存在两个问题:第一,模型学习影像特征时难以集中于目标地物;第二,模型会采用大量的参数对非核心地物进行编码和表征,也就是模型的“尺度灾难”。

2、换而言之,好的遥感影像特征提取器应该可以做到:在特征空间中平衡遥感尺度信息的丰富性,即尽可能获得影像中丰富尺度信息;在参数空间中平衡模型的必要性,即有选择地获取核心部分的特征进行表征。

3、解决遥感影像核心地物稀疏的问题,目前常用的一种解决方案是引入多尺度卷积,通过融合不同尺度的卷积,识别不同尺度的模式、积累模式,具有更大的感受野范围,形成对物体的更强的感知能力,如通过不同层次的特征融合,以获得不同层次特征的响应。但是这类方法缺乏对参数空间的考虑和对特征的选择,从而造成模型对不必要特征的表示,进而造成模型的参数负担。

4、因此,平衡遥感尺度信息的丰富性,需要尽可能获取影像中丰富尺度信息,同时有选择地获取核心部分的特征进行表征,以延缓“尺度灾难”、提高遥感影像推理效率。

5、直觉的方法是对模型中的冗余参数和结构进行评估,实现模型的压缩和优化。如eagleeye,利用自适应批归一化的简单而有效的评估组件,以揭示不同的剪枝dnn结构与其最终确定精度之间的强相关性。然而这类方法缺乏对特征空间的考虑。其通常需要预设条件对模型进行参数按重要性进行裁剪,然而重要性较低的参数并不代表具有较低的表征能力,简单的修剪可能导致多尺度信息提取能力降低,进而模型性能。

6、总言之,当前的多尺度学习方案面临着以下难题:参数空间通过参数重要性进行剪枝,但是无法保证模型的表征能力;特征空间可以很好的评估表征能力,但是无法进行直接剪枝。


技术实现思路

1、为解决上述现有技术中存在的技术问题,本专利技术的目的在于提供一种面向遥感影像的多尺度压缩方法,可实现模型的多尺度压缩,实现对遥感影像主体信息的精准全面捕捉。

2、为实现上述专利技术目的,本专利技术提供的一种面向遥感影像的多尺度压缩方法,包括以下步骤:

3、s1、对于输入模型,在特征空间中,通过卷积扩张提高感受野范围;

4、s2、在所述特征空间中,通过对链接参数层激活约束,对特征进行筛选;

5、s3、通过等价映射将所述特征空间映射到参数空间,利用线性合并的方式进行重参数化,获得紧致模型。

6、根据本专利技术的一个技术方案,在所述步骤s2中,还包括:

7、设置一组通道级链接参数wc用于学习输出特征的重要性;所述通道级链接参数wc位于待压缩的每层网络之后,每层网络的输出通过所述通道级链接参数wc的调节后输入到下层网络,其计算公式为:

8、

9、

10、其中,σc表示对于特征x,每个通道的重要性;表示经过第i层的通道数、宽度、高度分别为c、w、h的特征,即第i层输出值下一层网络的输出特征;表示经过i层卷积后的特征;t表示动态激活因子。

11、根据本专利技术的一个技术方案,在所述步骤s3中,将所述特征空间映射到所述参数空间,具体包括:

12、所述链接参数层通过线性运算,标记到所述参数空间,实现从特征到参数的选择;

13、所述线性运算的计算公式如下:

14、

15、其中,wc,w,h表示通道数、宽度、高度分别为c、w、h的参数,b表示偏置参数,表示经过第i-1层的通道数、宽度、高度分别为c、w、h的特征,即第i-1层的输出特征。

16、根据本专利技术的一个技术方案,在所述步骤s1中,具体包括:

17、以所述输入模型的基本卷积为操作单位,对由卷积block构成的原网络进行扩张,每组卷积block包括相互串联的一个卷积层和一个bn层,即对于原网络中的一个nxn的卷积,使用一组卷积核大小由1x1并以2为间隔的卷积替代;其中,单个所述卷积block的运算由公式(4)扩展到公式(5):

18、xn=convn(xi-1)    (4)

19、

20、其中,xn表示经过第n个得到的特征,convn表示卷积核大小为n的卷积运算,bn表示batchnorm运算,σi表示第i个卷积block的通道重要性,k表示通道标记,w表示整数集。

21、根据本专利技术的一个技术方案,设置扩张后的卷积block的步长和padding,使扩张前后的卷积block输出的特征大小一致;

22、当扩张前后的卷积block的大小一致时,为扩张后的卷积block添加一条卷积侧枝。

23、根据本专利技术的一个技术方案,在所述步骤s2中,通过对所述链接参数层使用主动遗忘机制对重要神经元的筛选,进行参数稀疏化;所述主动遗忘机制的损失包括主抑制损失、侧抑制损失和语义损失;

24、所述主抑制损失的损失函数表示为

25、

26、其中,l表示扩张后的模型的网络的第l层,i表示第l层中的神经元的位置,σi,j、σj,l表示扩张后的模型的网络中自动学习到的两个神经元重要性;

27、所述侧抑制损失的损失函数表示为

28、

29、其中,i、j表示神经神经元的位置,σi,j、σj,l表示扩张后的模型的网络中自动学习到的两个神经元重要性;

30、所述语义损失的损失函数表示为

31、

32、其中,m表示类别数量,yic为符号函数,如果样本i的真实类别等于c取1,否则取0,pic表示观测样本i属于类别c的预测概率;

33、在训练阶段训练损失表示为

34、loss=losscs+β·lossi+λ·lossil       (9)

35、其中,losscs表示交叉熵损失,lossi表示主抑制损失,lossil表示侧抑制损失,β、λ分别表示调整损失比例的超参数。

36、根据本专利技术的一个技术方案,在所述步骤s3中,所述利用线性合并方式进行重参数化,包括扩张结构的复原和基于af的整合。

37、根据本专利技术的一个技术方案,所述张结构的复原包括:

38、s311、通过线性合并将每个卷积block中相互串联的卷积层和bn层等效合并,生成新的卷积层;所述新的卷积层的参数和偏置表示为

39、

40、其中,w表示等效合并前的卷积层的参数,γ表示所述bn层的参数,σ表示所述bn层的移动方差的平方根,μ表示所述bn层的移动平均,b表示所述bn层的bias;

41、s312、将所述新的卷积层与所述卷积侧枝进行运算等效合并完成卷积侧枝的剪枝;

42、根据本专利技术的一个技术方案,在所述步骤s32中,具体包括:

43、s3121、对大小不同的参数本文档来自技高网...

【技术保护点】

1.一种面向遥感影像的多尺度压缩方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的面向遥感影像的多尺度压缩方法,其特征在于,在所述步骤S2中,还包括:

3.根据权利要求2所述的面向遥感影像的多尺度压缩方法,其特征在于,在所述步骤S3中,将所述特征空间映射到所述参数空间,具体包括:

4.根据权利要求3所述的面向遥感影像的多尺度压缩方法,其特征在于,在所述步骤S1中,具体包括:

5.根据权利要求4所述的面向遥感影像的多尺度压缩方法,其特征在于,设置扩张后的卷积block的步长和padding,使扩张前后的卷积block输出的特征大小一致;

6.根据权利要求5所述的面向遥感影像的多尺度压缩方法,其特征在于,在所述步骤S2中,通过对所述链接参数层使用主动遗忘机制对重要神经元的筛选,进行参数稀疏化;所述主动遗忘机制的损失包括主抑制损失、侧抑制损失和语义损失;

7.根据权利要求5所述的面向遥感影像的多尺度压缩方法,其特征在于,在所述步骤S3中,所述利用线性合并方式进行重参数化,包括扩张结构的复原和基于AF的整合。

8.根据权利要求5所述的面向遥感影像的多尺度压缩方法,其特征在于,所述张结构的复原包括:

9.根据权利要求7所述的面向遥感影像的多尺度压缩方法,其特征在于,在所述步骤S32中,具体包括:

10.根据权利要求7所述的面向遥感影像的多尺度压缩方法,其特征在于,所述基于AF的整合,具体包括:

...

【技术特征摘要】

1.一种面向遥感影像的多尺度压缩方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的面向遥感影像的多尺度压缩方法,其特征在于,在所述步骤s2中,还包括:

3.根据权利要求2所述的面向遥感影像的多尺度压缩方法,其特征在于,在所述步骤s3中,将所述特征空间映射到所述参数空间,具体包括:

4.根据权利要求3所述的面向遥感影像的多尺度压缩方法,其特征在于,在所述步骤s1中,具体包括:

5.根据权利要求4所述的面向遥感影像的多尺度压缩方法,其特征在于,设置扩张后的卷积block的步长和padding,使扩张前后的卷积block输出的特征大小一致;

6.根据权利要求5所述的面向遥感影像的多尺度压缩方...

【专利技术属性】
技术研发人员:贺广均叶丁绮李海峰符晗冯鹏铭陈元伟李阳
申请(专利权)人:航天恒星科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1