基于随机深度残差网络的高光谱图像分类方法技术

本发明专利技术公开了基于随机深度残差网络的高光谱图像分类方法，本发明专利技术实现步骤如下：步骤一、首先对数据进行预处理。步骤二、模型构建，主要由两部分组成，光谱特征提取与空间信息特征提取。步骤三、模型训练。步骤四、高光谱图像分类。将数据输入网络，进行类别的预测，得到分类的高光谱图像。步骤五、输出分类图像；本发明专利技术充分利用了高光谱图像的空谱特征和光谱特征，提高了分类精度，并且在残差网络的基础上应用了随机深度，相较于传统的残差网络极大的缩减了训练时间与测试时间。

【技术实现步骤摘要】
基于随机深度残差网络的高光谱图像分类方法
本专利技术属于图像处理
，具体涉及一种随机深度神经网络，结合了光谱和空谱信息的高光谱图像分类方法。
技术介绍
随着技术的不断发展，针对地物观测的遥感技术取得了令人瞩目的成就。高光谱遥感技术是通过高空中的探测设备，在不同的电磁波范围内利用光谱间隔成像，从而将地物的光谱信息和空间信息组合起来，产生高光谱图像。高光谱遥感的一个重要用处在于它能够精细地识别和分类地表物质，从而提取出地物有用的特征信息。基于这个特性，高光谱遥感已经被成功应用到了食品、农业、矿业等领域，其中一个重要的研究方向是对高光谱图像进行分类。分类就是通过对高光谱图像中各类地物特征进行提取，然后将图像中每个像元划分到不同的类别中。常见的高光谱分类方法包括最小距离判别法，基于贝叶斯准则的分类器、支持向量机分类方法、高斯最大似然分类器和基于随机森林的分类方法。最小距离判别法是最容易理解的分类方法，在一个N维的欧式空间中，将不同类别视作空间中的不同位置。对于样本，如果与其中一类的几何距离最近，则将该样本分为此类。基于贝叶斯准则的分类器则本文档来自技高网...

【技术保护点】
1.基于随机深度残差网络的高光谱图像分类方法，其特征在于：本方法实现步骤如下：/n步骤一、首先对数据进行预处理；将所有可用的带标签的数据分成三个部分；取数据集的10％作为训练集，10％作为验证集，80％作为测试集；将输入图像的每一个像素块作为样本；假设数据的波段数为d，则设定一个大小为7×7×d的高光谱图像光谱样本窗口，以每一个像素点为中心进行滑动取样，超出边界的则采取补零策略后取样；对取得的样本进行翻转，增加高斯噪声操作，实现对数据的扩容，以减少过拟合；/n步骤二、模型构建；模型主要由两部分组成，光谱特征提取与空间信息特征提取；/n步骤三、模型训练；/n步骤四、高光谱图像分类；将数据输入网络...

【技术特征摘要】
1.基于随机深度残差网络的高光谱图像分类方法，其特征在于：本方法实现步骤如下：
步骤一、首先对数据进行预处理；将所有可用的带标签的数据分成三个部分；取数据集的10％作为训练集，10％作为验证集，80％作为测试集；将输入图像的每一个像素块作为样本；假设数据的波段数为d，则设定一个大小为7×7×d的高光谱图像光谱样本窗口，以每一个像素点为中心进行滑动取样，超出边界的则采取补零策略后取样；对取得的样本进行翻转，增加高斯噪声操作，实现对数据的扩容，以减少过拟合；
步骤二、模型构建；模型主要由两部分组成，光谱特征提取与空间信息特征提取；
步骤三、模型训练；
步骤四、高光谱图像分类；将数据输入网络，进行类别的预测，得到分类的高光谱图像；
步骤五、输出分类图像。


2.根据权利要求1所述的基于随机深度残差网络的高光谱图像分类方法，其特征在于：步骤一，数据预处理
(1)输入高光谱图像
输入原高光谱图像，将图像的每一个像素块作为样本，并建立样本集；
(2)获取样本集
假设高光谱图像的通道数为d，则设定一个7×7×d的窗口，以每一个像素点为中心抓取样本集中的样本，对于边界采取补零策略；
(3)数据处理
将所有可用的样本分成三个部分，每个类别各取10％，10％，80％分别作为训练集，验证集，测试集；假设一个HIS数据集X包含N个可分类的地物像素，X＝{x1，x2,…,xN}∈R1X1Xb，Y＝{y1,y2，…，yN}∈R1X1Xl为对应的独热编码标签，其中b和l分别为该数据集的可用光谱波段数和土地类别数；以HIS数据集X中像素为中心的立方体形成了一组新的数据集Z＝{z1，z2，…zN}∈RhXhXb；为充分利用HSI数据集中的光谱和空谱特征，将大小为h×h×b的立方体作为网络的输入；x1，x2，…，xN表示N个可分类的地物像素，y1，y2，…，yN表示与x1，x2，…，xN相对应的独热编码标签，z1，z2，…zN则表示N个分别以x1，x2,…,xN像素点为中心所构造的样本；
(4)数据增强
对训练样本进行数据增强操作，包括翻转、添加高斯噪声操作；使训练样本更具随机性，增强模型的泛化能力和鲁棒性。


3.根据权利要求1所述的基于随机深度残差网络的高光谱图像分类方法，其特征在于：步骤二，构建分类网络的模型
模型的基本构成有3D卷积层，批标准化层以及ReLU激活层；
3D卷积层是指当输入大小为(3,depth,height,width)时，depth、height、width分别简称为d、h、w，每次滑窗与3个通道上的(d,h,w)窗口内的所有值进行相关操作，得到输出3D图像中的一个值；表示卷积过程，W表示卷积核，W与输入数据R进行卷积，并与偏置b相加输出张量Z；公式如下所示：



使用‘ReLU’作为激活函数，其作用是克服梯度消失；Z表示输入，公式如下所示：
Z＝max{0,Z}(2)
批标准化是为了克服由于神经网络层数过深而导致收敛过慢的问题；在激活函数之前，对输入进行标准化，使得数据分布稳定，缓解过拟合；
模型由4个残差块组成，在每一个残差块中都包含一个跳跃连接以及一个转换函数F；F由3D卷积层-批标准化层-ReLU激活层-3D卷积层-批标准化层这样的结构组成；早期卷积能够捕捉到更多的局部信息，而低分辨率的卷积层则能够利用高级语义捕捉到更多的结构信息；通过对已有层和深层的跨层连接，将局部细节与高层结构信息结合起来；若用Hl表示第l层的输出，id表示恒等变换，则训练阶段的传播规则由下面公式表示：
Hl＝ReLU(Fl(Hl-1)+id(Hl-1))(3)
若转换函数F导致特征图的大小发生变化，则需在跳跃连接部分添加卷积，使其尺寸与通过转换函数得到的特征图尺寸一致；跳跃连接部分的转换函数f由3D卷积层-批标准化层组成；则训练阶段的传播规则由下面公式表示：
Hl＝ReLU(Fl(Hl-1)+fl(Hl-1))(4)
在训练阶段为了减少神经网络的长度，在每个批次都随机地完全跳过一些残差块；即对于每一个残差块，随机地选择是否删除该残差块的转换函数F，仅保留跳跃连接；但在测试阶段保持网络的深度不变；对于第l个残差块设置一个bl∈{0,1}表示一个伯努利随机变量，当bl＝1时表示该残差块是活动的，当bl＝0是表示该残差块是非活动的，即该残差块删除转换函数F，仅保留跳跃连接；第l个残差块的生存概就可以表示为Pl＝P(bl＝1)；训练阶段传播规则由(3)更新为下面的公式(5)：
Hl＝ReLU(blFl(Hl-1)+id(Hl-1))(5)
如果bl等于1，则公式(5)恢复成公式(3)，即恢复原来的传播规则；
若bl等于0，则简化成下面的公式(6)；对于非负输入，则使用激活函数ReLU代替恒等变换id；
Hl＝id(Hl-1)(6)
Pl是训练过程中的一个超参数，表示第l个残差块的生存概率，即根据Pl的大小；PL表示最后一个残差块的生存概率，恒定为0.5；Pl的设置有两种方式；一是令所有的Pl均等于PL，二是将Pl设置为关于l的衰减函数，公式如下所示：



生存概率的线性衰减理解为前面的卷积层提取低级特征，这些特征将被后面的卷积层使用，所以前面残差块的生存概率应大一些；当跳过一个残差块时，就不需要进行前向与反向传播的计算，大大缩短了训练时间；在测试过程中，所有的残差块均不会被跳过，恢复包含所有残差块的全长网络；训练过程中，转换函数Fl只对更新的部分Pl有效，根据生存概...

【专利技术属性】
技术研发人员：高正，同磊，邓米克，禹晶，肖创柏，
申请(专利权)人：北京工业大学，
类型：发明
国别省市：北京;11