一种基于深度学习的高光谱图像波段选择方法技术

本发明专利技术提供一种基于深度学习的高光谱图像波段选择方法，包括：利用原始的高光谱图像数据训练得到表征各波段重要性的权重向量；根据权重向量对波段数据进行逐波段的加权运算得到波段注意力映射；采用重构网络模块对波段注意力映射进行非线性重构，得到波段的重构输出；利用波段的重构输出、原始的波段数据以及权重向量构建最小化损失函数模型，采用梯度下降优化方法对所述模型中的参数进行逐层优化求解，得到优化后的波段权重，进一步根据权重排序结果选择波段子集。本发明专利技术提供一个通用的波段选择框架，充分考虑高光谱图像的非线性特性，并整合了特征提取与波段选择，避免了噪声波段的影响，结构设计灵活，且可以与任意神经网络模型结合。

A band selection method of hyperspectral image based on deep learning

【技术实现步骤摘要】
一种基于深度学习的高光谱图像波段选择方法
本专利技术涉及高光谱遥感影像处理领域，尤其涉及一种基于深度学习的高光谱图像波段选择方法。
技术介绍
高光谱遥感(Hyperspectralremotesensing)是一项十分重要的技术，它在地质勘探、海洋监测、精细农业以及军事等领域起着越来越重要的作用。高光谱遥感图像通常包含数百乃至数千个连续的光谱波段，随着高光谱成像技术的日益发展，光谱分辨率越来越高，导致高光谱图像的波段数量不断增加，使得高光谱图像的存储和处理面临巨大的挑战。首先，光谱波段间的相关性会随着波段数量的增加而线性增加，也就是说波段集合中存在大量冗余波段；其次，由于传感器和大气等的影响，波段集合中不可避免地会存在噪声波段，这些噪声波段通常不包含任何有用信息，甚至在在处理中可能导致所谓的“维度灾难”。波段选择(Bandselection)是一种能有效解决上述问题的技术，其目的是在不损失原有高光谱图像物理信息的同时尽可能多的剔除冗余、噪声等无用波段。根据是否使用标记信息，可将波段选择方法划分为有监督和无监督两类，其中，无监督的波段选择因其具有更加普适的应用前景而得到了广泛研究，无监督的波段选择又可以细分为：基于搜索的波段选择(Searchbased)、基于聚类的波段选择(Clusteringbased)和基于排序的波段选择(Rankingbased)，这三种方法的原理及各自的技术特点归纳如下：(1)基于搜索的波段选择将高光谱的波段选择视为一个组合优化问题，即给定一个优化目标如最大化选择中波段的信息熵等，然后利用启发式搜索算法优化该目标，典型的算法有粒子群优化算法、演化算法、多目标优化算法等，这类波段选择方法的思想直观有效，但本质上是在优化一个NP难问题，因此优化过程通常十分耗时；(2)基于聚类的波段选择认为波段集合可以根据彼此之间的内在关系划分为不同的簇，然后再根据某个标准从不同的簇中挑选波段，比如基于子空间聚类、基于非负矩阵聚类等方法，由于聚类方法可以充分对波段间的相互关系进行建模，因此这类方法选出的波段准确度较高，但其将连续的波段视为孤立的点本身忽视了光谱波段的物理特性，且缺乏理论依据；(3)基于排序的波段选择不是直接选出一个波段子集，而是依据某种评价标准对所有波段进行排序，如基于最大方差主成分分析法、基于稀疏表示模型等，这类波段选择方法具有较强的可解释性，但如何设置能准确反映波段重要性的评价准则十分困难。总而言之，上述波段选择方式存在以下缺点：1)难以对波段间的关系进行全局且明确的建模；2)缺乏对空间信息的利用；3)难以做到端到端学习且缺乏与后续处理方法整合的考虑。
技术实现思路
针对高光谱图像波段数量多、波段冗余性大的问题，本专利技术提供了一种基于深度学习和注意力机制的高光谱图像波段选择网络框架(Bandselectionnetwork，BS-Net)，所述框架基于光谱的稀疏重建假设，即完整的高光谱波段集合可以由重要的波段重建出来，而在光谱重建过程中，越重要的波段往往为重建提供越高的贡献；本专利技术提供的波段选择网络框架通过波段注意力模块估计得到波段权重，并由自编码器完成光谱重建。本专利技术提供一种基于深度学习的高光谱图像波段选择方法，包括以下步骤：S1、波段重要性评价：利用原始的高光谱图像数据构造波段数据x，并将所述波段数据x作为训练集输入到波段注意力学习模块中，得到表征各波段重要性的权重向量w＝g(x；θb)，其中，函数g(·)表示波段注意力学习的运算函数，θb表示波段注意力学习模块的待优化参数；S2、波段重加权：利用所述权重向量w对所述波段数据x进行逐波段的加权运算得到波段注意力映射S3、光谱波段重建：采用重构网络模块对所述波段注意力映射z进行非线性重构，得到波段的重构输出其中，f(·)表示重构网络的运算函数，θc表示重构网络模块中的待优化参数；S4、模型优化及代表性波段选择：利用波段的重构输出原始的波段数据x以及权重向量w构建最小化损失函数模型，其中，损失函数为：式中，λ表示正则系数，为F范数，用于表示波段数据x和重构输出之间的相似程度，||·||1表示L1范数，用于约束权重向量w使其具有稀疏性；对所述最小化损失函数模型进行优化求解，根据优化后的波段权重的大小对各波段进行排序，从而选择权重最大的波段子集。进一步地，所述步骤S1中，所述波段注意力学习模块采用多层神经网络结构，所述神经网络的输入为光谱波段数据，输出层采用Softmax激活函数，保证输出为与原始波段长度一致的归一化向量，所述Softmax激活函数为：式中，hj表示所述神经网络的输出层中第j个神经元的输出，j＝1，…，b，b表示波段数量，wj表示输出的第j个波段对应的权值。进一步地，所述步骤S3中，采用自编码器结构实现所述重构网络模块。进一步地，所述步骤S4中，采用梯度下降优化方法对所述最小化损失函数模型中的参数进行逐层优化求解，其中，θc和θb的优化过程为：式中，表示求偏导，η表示学习率。进一步地，对于只有光谱向量可用的高光谱图像数据，还包括：在所述步骤S1中，所述波段注意力学习模块采用全连接神经网络，所述全连接神经网络包括3个全连接层，其中，前两层中每个神经元均采用ReLu非线性激活函数，输出层为神经元数量与波段数据相同的线性层；在所述步骤S3中，所述重构网络模块包括5个全连接层，其中，前4层中每个神经元均采用ReLu非线性激活函数，输出层采用Sigmoid激活函数保证输出的归一化特性，所述Sigmoid激活函数为：式中，hi表示所述重构网络的输出层中第i个神经元的输出，i＝1，…，S，S表示高光谱图像数据的样本数量，由此得到重建后的波段数据进一步地，对于包含丰富空间信息的三维高光谱图像数据，还包括：在所述步骤S1中，所述波段注意力学习模型采用卷积神经网络，所述卷积神经网络包括2个卷积层，每个卷积层均采用3×3的卷积核和ReLu激活函数；在所述卷积神经网络后连接有一个全局池化层，所述全局池化层通过对各卷积通道的特征图求均值将三维空间数据转换为一维向量；所述全局池化层后连接有2个全连接层，用于产生波段权重向量w；在所述步骤S2中，对波段数据进行重加权时，首先将权重向量w扩展为三维形式，然后计算波段注意力映射在所述步骤S3中，所述重构网络模块包含两个3×3的非线性卷积层、两个3×3的非线性反卷积层，以及一个输出层，其中，所述输出层为一个1×1的线性卷积层，输出重建后的波段数据本专利技术还提供一种基于深度学习的高光谱图像波段选择框架，包括波段注意力学习模块、波段重加权模块、重构网络模块、以及波段选择模块，其中，所述注意力学习模块利用原始的波段数据通过神经网络学习得到表征各波段重要性的权重向量；所述波段重加权模块用于将权重向量与波段数据进行逐波段的加权运算，得到波段注意力映射；所述重构网络模块利用波段注意力映射进行非线性重构，得到波本文档来自技高网...

【技术保护点】
1.一种基于深度学习的高光谱图像波段选择方法，其特征在于，包括以下步骤：/nS1、波段重要性评价：利用原始的高光谱图像数据构造波段数据x，并将所述波段数据x作为训练集输入到波段注意力学习模块中，得到表征各波段重要性的权重向量w＝g(x；θ

【技术特征摘要】
1.一种基于深度学习的高光谱图像波段选择方法，其特征在于，包括以下步骤：
S1、波段重要性评价：利用原始的高光谱图像数据构造波段数据x，并将所述波段数据x作为训练集输入到波段注意力学习模块中，得到表征各波段重要性的权重向量w＝g(x；θb)，其中，函数g(·)表示波段注意力学习的运算函数，θb表示波段注意力学习模块的待优化参数；
S2、波段重加权：利用所述权重向量w对所述波段数据x进行逐波段的加权运算得到波段注意力映射
S3、光谱波段重建：采用重构网络模块对所述波段注意力映射z进行非线性重构，得到波段的重构输出其中，f(·)表示重构网络的运算函数，θc表示重构网络模块中的待优化参数；
S4、模型优化及代表性波段选择：利用波段的重构输出原始的波段数据x以及权重向量w构建最小化损失函数模型，其中，损失函数为：



式中，λ表示正则系数，为F范数，用于表示波段数据x和重构输出之间的相似程度，||·||l表示L1范数，用于约束权重向量w使其具有稀疏性；对所述最小化损失函数模型进行优化求解，根据优化后的波段权重的大小对各波段进行排序，从而选择权重最大的波段子集。


2.根据权利要求1所述的基于深度学习的高光谱图像波段选择方法，其特征在于，所述步骤S1中，所述波段注意力学习模块采用多层神经网络结构，所述神经网络的输入为光谱波段数据，输出层采用Softmax激活函数，保证输出为与原始波段长度一致的归一化向量，所述Softmax激活函数为：



式中，hi表示所述神经网络的输出层中第j个神经元的输出，j＝1，…，b，b表示波段数量，wj表示输出的第j个波段对应的权值。


3.根据权利要求1所述的基于深度学习的高光谱图像波段选择方法，其特征在于，所述步骤S3中，采用自编码器结构实现所述重构网络模块。


4.根据权利要求1所述的基于深度学习的高光谱图像波段选择方法，其特征在于，所述步骤S4中，采用梯度下降优化方法对所述最小化损失函数模型中的参数进行逐层优化求解，其中，θe和θb的优化过程为：






式中，表示求偏导，η表示学习率。


5.根据权利要求1所述的基于深度学习的高光谱图像波段选择方法，其特征在于，对于只有光谱向量可用的高光谱图像数据，还包括：
在所述步骤S1中，所述波段注意力学习模块采用全连接神经网络，所述全连接神经网络包括3个全连接层，其中，前两层中每个神经元均采用ReLu非线性激活函数，输出层为神经元数量与波段数据相同的线性层；
在所...

【专利技术属性】
技术研发人员：蔡耀明，张子佳，刘小波，蔡之华，刘哲伟，王梦琪，邓雅雯，
申请(专利权)人：中国地质大学武汉，
类型：发明
国别省市：湖北;42