多目标进化卷积神经网络的高光谱图像分类方法技术

本发明专利技术公开了一种多目标进化卷积神经网络的高光谱图像分类方法，主要解决现有技术中网络较复杂，分类精度较低的问题。本发明专利技术具体步骤如下：(1)初始化个体架构信息组成种群；(2)解码个体生成训练集，验证集和卷积神经网络；(3)计算卷积神经网络的分类精度与浮点运算次数作为两个适应度；(4)采用交叉，变异，多目标选择对种群迭代更新得到最优种群；(5)使用最优种群中分类精度最高的个体对应的卷积神经网络对待高光谱图像进行分类。本发明专利技术采用进化算法实现对卷积神经网络自动设计，并使用多目标优化，具有针对高光谱图像分类问题精度高，结构简单的优点。结构简单的优点。结构简单的优点。

【技术实现步骤摘要】
多目标进化卷积神经网络的高光谱图像分类方法


[0001]本专利技术属于图像处理
，更进一步涉及图像分类
的一种多目标进化卷积神经网络的高光谱图像分类方法。本专利技术可用于自动设计卷积神经网络架构对高光谱图像中的地物目标进行分类。

技术介绍

[0002]近年来，高光谱图像由于通过传感器收集数百个连续且细化的光谱波段对目标物体同时成像，极大地丰富了对目标信息的采集，因此被广泛地应用在军事，民用等领域。随着高光谱图像的大量产出，业界对高光谱图像进行地物分类的需求也日益增多，传统的人工设计神经网络模型方法已无法满足海量高光谱图像的模型设计需求，而大部分现有的模型搜索方法基于梯度优化，无法充分考虑高光谱图像的空间分辨率与噪声通道的影响，导致分类精度不高。此外，随着业界对高光谱图像分类的要求越来越高，现有技术大部分缺乏对高光谱图像的多尺度特征的提取，且单从分类精度目标衡量模型性能，已无法同时满足业界对高精度和高效率的要求。
[0003]陕西科技大学在其申请的专利文献“一种基于混合卷积神经网络的高光谱图像分类方法”(专利申请号：CN202111178338.2，申请公布号：CN 113837314 A)中提出了一种基于混合卷积神经网络的高光谱图像分类方法。该方法使用人工构建混合卷积神经网络模型用于解决高光谱图像分类问题，该方法实现的步骤为：(1)使用优化PCA对高光谱图像进行预处理；(2)构建混合卷积神经网络模型。混合卷积神经网络模型包括输入层、隐含层和输出层三部分。隐含层由特征提取层、全连接层以及分类器组成,其中特征提取层由依次连接的3D卷积层、2D卷积层和1D卷积层构成，用于同时提取高光谱图像的光谱和空间维度特征。该方法提高了高光谱图像分类精度，但是，该方法仍然存在的不足之处在于，采用人工设计的神经网络模型实现分类，对设计者的模型设计经验和高光谱相关知识都具有较高的要求，针对不同的高光谱图像，人工设计神经网络架构的工作量过大，且人工设计神经网络架构容易导致结构冗余和人为误差，影响分类效率与分类精度。
[0004]西安电子科技大学在其申请的专利文献“基于轻量化神经架构搜索的高光谱图像分类方法及系统”(专利申请号：CN202111039219.9，申请公布号：CN 113780146 A)中提出了一种轻量化神经架构搜索的高光谱图像分类方法。该方法使用模块化的轻量化候选操作搭建超网，以梯度优化的方式对超网进行双层优化，同时通过子网权重共享加快模型搜索速度。该方法实现的步骤为：(1)采用基于单元的搜索空间，堆叠多个重复的单元搭建超网，并设置候选操作；(2)使用划定的训练样本对搭建的超网进行训练得到用于高光谱图像分类的轻量化深度神经网络架构；(4)使用训练集训练上述得到的轻量化深度神经网络架构，利用测试集对训练好的轻量化深度神经网络架构进行验证，当输出测试样本的预测标签满足条件后，向训练好的轻量化深度神经网络架构中输入待分类的高光谱遥感图像，获得分类结果。该方法实现了基于梯度的神经网络架构搜索，解决了高光谱图像的地物分类问题，但是，该方法仍然存在的不足之处在于，这种方法无法搜索模型的输入图像块尺寸和输入
图像块光谱维度，从而影响模型的分类精度。且该方法无法约束模型的复杂度，导致最终得到分类效率较低。
[0005]Chaochao Zhang等人在其发表的论文“Particle Swarm Optimization Based Deep Learning Architecture Search for Hyperspectral Image Classification”(IGARSS 2020
‑
2020 IEEE International Geoscience and Remote Sensing Symposium,2020,pp.509
‑
512)中提出了一种基于粒子群优化的深度学习架构搜索的高光谱图像分类方法。该方法通过使用粒子群优化算法搜索基于单元的CNN全局最优架构，该方法的步骤为：(1)构建基于单元的搜索空间；(2)设计了一种直接编码策略将架构编码为粒子；(3)PSO算法用于从粒子群中搜索最佳深度架构。该方法在两个广泛使用的高光谱图像数据集上取得了良好的性能，但是，该方法仍然存在的不足之处在于，该方法只能提取单一尺度的特征，导致模型的特征提取能力不好，从而影响模型的分类精度，且该方法仅以分类精度作为搜索目标，得到复杂度较高的网络模型，影响分类精度。

技术实现思路

[0006]本专利技术的目的在于针对上述现有技术中的不足，提出了一种多目标进化卷积神经网络的高光谱图像分类方法，用于解决现有技术无法对卷积神经网络的输入图像块的尺寸与输入图像块的光谱维度进行搜索，网络模型特征提取能力较弱，分类效率不高，以及人为误差过大，分类精度较低，网络模型较复杂的问题。
[0007]实现本专利技术目的的技术方案是：本专利技术将输入图像块的尺寸与输入图像块的光谱维度加入个体基因编码，并进行迭代更新，并将PCA算法与输入光谱维度搜索相结合，自适应降低神经网络模型的输入噪声，实现对卷积神经网络的输入图像块的尺寸与输入图像块的光谱维度的搜索，以此解决现有技术无法对卷积神经网络的输入图像块的尺寸与输入图像块的光谱维度进行搜索的问题。本专利技术将一种树形多分支超网络结构作为网络块的基础结构，实现对多尺度特征的提取和融合，以此解决现有技术网络模型特征提取能力较弱的问题。本专利技术设计了高效的交叉和变异算子，以修改解码后网络架构的输入分辨率、输入通道数、卷积核尺寸、网络深度和输出通道数，实现了对树形多分支超网络结构的高效进化搜索，以此解决现有技术分类效率较低的问题。本专利技术将分类精度与网络复杂度同时作为优化目标，根据个体的适应度对个体进行环境选择，实现对高分类精度，低网络结构复杂度的卷积神经网络的搜索，以此解决现有技术人为误差过大，分类精度较低，网络模型较复杂的问题。
[0008]实现本专利技术的具体步骤如下：
[0009]步骤1，初始化架构信息：
[0010]将待构建的卷积神经网络的输入图像块的尺寸，输入图像块的光谱维度和网络块，通过树形结构和标量的混合编码方式编码为基因个体；将每30个基因个体组合为一个种群；
[0011]步骤2，生成每个基因个体对应的训练集和验证集：
[0012]步骤2.1，使用主成分分析法PCA，对待分类的高光谱图像的输入光谱维度进行降维，使其光谱维度等于基因个体对应的输入光谱维度；
[0013]步骤2.2，以降维后高光谱图像中带标签的每个像素为中心，截取该像素的矩形
块，矩形块的宽度和高度均等于基因个体对应的图像块尺寸，且将中心像素的标签作为矩形块的标签；
[0014]步骤2.3，从每种类别中各采样50个的矩形块组成训练集，将剩余矩形块组成验证集；
[0015]步骤3，构建种群中每个基因个体对应的卷积神经网络：
[0016]步骤3.1，遍历树形编码T1中第一分支的所有节点，对每一个节点，生成该节点对应卷积神经网络中的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种多目标进化卷积神经网络的高光谱图像分类方法，其特征在于，利用树形结构和标量的混合编码方式，对卷积神经网络的输入图像块尺寸、输入图像块光谱维度和网络块进行混合编码，利用树形多分支超网络结构作为网络块的基础结构，利用分类精度与浮点运算次数作为卷积神经网络的两个适应度,通过选择、交叉和变异操作对种群进行迭代更新后，使用适应度最高的基因个体对应的卷积神经网络计算对待分类的高光谱图像的分类精度；该分类方法的步骤包括如下：步骤1，初始化架构信息：将待构建的卷积神经网络的输入图像块的尺寸，输入图像块的光谱维度和网络块，通过树形结构和标量的混合编码方式编码为基因个体；将每30个基因个体组合为一个种群；步骤2，生成每个基因个体对应的训练集和验证集：步骤2.1，使用主成分分析法PCA，对待分类的高光谱图像的输入光谱维度进行降维，使其光谱维度等于基因个体对应的输入光谱维度；步骤2.2，以降维后高光谱图像中带标签的每个像素为中心，截取该像素的矩形块，矩形块的宽度和高度均等于基因个体对应的图像块尺寸，且将中心像素的标签作为矩形块的标签；步骤2.3，从每种类别中各采样50个的矩形块组成训练集，将剩余矩形块组成验证集；步骤3，构建种群中每个基因个体对应的卷积神经网络：步骤3.1，遍历树形编码T1中第一分支的所有节点，对每一个节点，生成该节点对应卷积神经网络中的一个卷积层，该卷积层的卷积核尺寸等于对应节点的树形编码中卷积核尺寸的编码，输出通道数等于对应节点的树形编码中输出通道数的编码，然后将所有卷积层进行级联，得到卷积神经网络中的分支子网络；步骤3.2，对树形编码T1中的剩余分支，采用与第一步相同的方法生成分支子网络，将所有分支子网络进行并联得到第一网络块，所有分支子网络输出的加权求和值作为第一网络块的输出，若跳跃链接标志位等于1，则将第一网络块的输出与输入求和后作为该网络块的最终输出；步骤3.3，采用与第一步到第二步相同的方法对树形编码T1和T2进行处理，得到第二和第三网络块，并将上述所有网络块进行级联得到卷积神经网络；步骤4，训练卷积神经网络：将训练集输入到卷积神经网络中，利用Adam算法，迭代更新网络权重，当学习率衰减到0.000001时，得到训练好的卷积神经网络；步骤5，计算卷积神经网络的两个适应度：将验证集输入到训练好的卷积神经网络中，输出分类准确率与浮点运算次数，将分类准确率与浮点运算次数作为对应基因个体的两个适应度；步骤6，对种群中的基因个体依概率执行交叉操作生成交叉种群：步骤6.1，从当前迭代的父代种群中，随机选取两个未选过的待优化的卷积神经网络对应的基因个体；步骤6.2，对所选两个基因个体执行交叉操作；步骤6.3，判断当前迭代后的父代种群中是否选完所有的基因个体，若是，则将当前迭代后的父代种群中所有经过上述交叉操作得到的基因个体组成交叉种群后执行步骤7，否
则，执行步骤6.1；步骤7，对交叉种群中所有的基因个体依概率执行变异操作生成变异种群：步骤7.1，对交叉种群中的基因个体依概率执行变异操作；步骤7.2，将交叉种群中所有经过上述变异操作得到的基因个体组成变异种群；步骤8，将交叉种群中的基因个体与变异种群中的基因个体组合在一起组成子代种群：步骤9，计算子代种群中每个基因个体对应的两个适应度：采用与步骤2至步骤5的相同方法，得到子代种群中每一个基因个体对应的卷积神经网络的分类准确率和浮点运算次数，并将分类准确率和浮点运算次数作为基因个体对应的两个适应度；步骤10，依据父代种群与子代种群中所有基因个体对应的两个适应度，利用环境选择操作选择得到新的父代种群：步骤10.1，将当前迭代后的父代种群中的所有基因个体与当前步骤8得到的子代种群中的所有基因个体一起组成新种群，对新种群中的个体根据对应的两个适应度执行环境选择操作，得到下一代种群；步骤10.2，如果当前迭代次数等于根据经验设定的最大迭代次数，将当前迭代的种群作为最优种群，在最优种群中将分类准确率最高的基因个体对应的卷积神经网络作为最优卷积神经网络；步骤11，对高光谱图像进行分类：步骤11.1，将待分类的高光谱图像，依据最优卷积神经网络对应的基因个体中的输入图像块的尺寸与输入图像块的光谱维度，采用与步骤2.1至步骤2.2的相同方法，生成输入图像块；步骤11.2，将所有输入图像块输入到训练好的最优卷积神经网络中，计算最优卷积神经网络对高光谱图像中所有待分类的样本的分类准确率，将对应的分类准确率作为结果输出。2.根据权利要求1所述的多目标进化卷积神经网络的高光谱图像分类方法，其特征在于，步骤1中所述混合编码方式如下：[α1，α2，T1，T2，T3]其中，α1表示待分类的高光谱图像块尺寸的编码，其值为在[19,21,23,25,27,29,31,33,35,37,39]范围内随机选取的一个数，α2表示待分类的高光谱图像块的输入光谱维度编码，其值为在[50,55,60,65,70,75,80,85,90]范围内随机选取的一个数，T1，T2，T3分别表示卷积神经网络的第一，第二和第三网络块的树形编码；所述树形编码指的是：每一棵树编码中包含至少1个，至多3个分支，每一个分支包含至少1个，至多3个节点，以及跳跃链接标志位，其值为[0,1]中的一个，每个节点包含两类树形编码，分别为卷积神经网络中卷积核尺寸的编码和输出通道数的编码，其中，卷积核尺寸的编码值为在[3,5,7]范围内随机选取的一个数，输出通道数的编码值为在[16,32,48,64]范围内随机选取的一个数，每个分支叶子节点的输出通道数编码均相同，且值等于[16,32,48,64]中的一个数。3.根据权利要求1所述的多目标进化卷积神经网络的高光谱图像分类方法，其特征在于，步骤6.2中所述交叉操作的具体步骤...

【专利技术属性】
技术研发人员：张梦璇，汪志刚，雷智锟，尚荣华，焦李成，刘龙，
申请(专利权)人：西安电子科技大学，
类型：发明
国别省市：