一种基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法技术

本发明专利技术涉及一种基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法，用于自动搜索适合于特定数据集的卷积神经网络架构。本发明专利技术结合深度学习理论，设计层次化搜索空间和级联训练策略，将卷积神经网络设计转化为基于数据驱动模式，并构建了一系列的轻量级操作作为候选，以保证搜索网络架构的效率。该框架通过空洞金字塔池化模块对网络架构进行适配，使其适用于高分辨率遥感图像识别任务。本发明专利技术能够解决现有的人工设计架构专业知识与时间成本要求高等问题，针对特定高分辨率遥感影像土地覆盖分类数据集自动搜索合适的深度学习模型，可以有效提高模型设计效率与精度。

A land cover classification method of high resolution remote sensing image based on depth structure automatic search

【技术实现步骤摘要】
一种基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法
本专利技术属于高分辨率遥感影像识别领域，特别涉及一种基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法。
技术介绍
遥感技术的飞速发展，现在可以提供大量的高分辨率遥感影像。与低分辨率影像相比，高分辨率遥感影像包含更详细的空间信息，不仅带来了机遇，但也给遥感图像的分类带来挑战。基于高分辨率遥感影像技术的分类与分析现已运用于土地覆盖分类任务中。长期以来，土地覆盖分类任务一直是遥感方面的一项艰巨任务。常规方法仅依赖于低级光谱和空间特征，例如定向梯度的直方图，对象光谱指数，尺度不变特征变换和灰度级共现矩阵。由于光谱和空间信息的可用性，Fauvel于2012年提出了一种融合空间和光谱特征的融合方法，与仅基于光谱或空间信息的其他方法相比，该方法具有更好的性能。作为上下文分类模型的条件随机场模型在像素级分类任务中具有自然优势，在条件随机场框架内集成了光谱，空间上下文和位置信息，以从不同角度提供补充信息，能够解决土地覆盖制图中光谱变异性的常见问题。最近，深度学习算法已成为机器学习和模式识别中的主要范例。在2012年ImageNet大规模视觉分类挑战中，AlexNet卷积神经网络(ConvolutionalNeuralNetwork,CNN)取得了令人瞩目的成绩，各种基于CNN的方法逐渐运用于高分辨率遥感影像分类任务中。经典的卷积神经网络GoogleNet于CaffeNet网络已经成功迁移至高分辨率场景分类任务中，并证明了预训练模型参数的有效性。基于无监督的深度学习方法也逐渐开展，利用生成对抗网络通过在未标记的数据上交替训练鉴别器和生成器，可以获得不受监管的特征并将其用于场景分类。尽管借助深度学习方法已大大提高了高分辨率影像分类的性能，但为特定的分类任务设计良好的CNN架构需要广泛的专业知识。人为设计深度学习架构，任务包括不同的要求，并且需要仔细构造不同类型的CNN。设计CNN时，设计人员需要具备以下素质：1)出色的数据分析能力；2)对不同的HRS图像分类任务有很好的了解；3)在各种分类模型设计方面的丰富经验。这意味着设计师需要遥感和计算机视觉方面的广泛专业知识。此外，由于实验不足或经验不足，手工制作的CNN可能无法很好地完成任务。
技术实现思路
为了解决这些问题并减少高分辨率遥感影像分类的难度和复杂性，亟需一种基于神经结构搜索的遥感深度神经网络搜索框架，以自动找到最适合高分辨率遥感影像土地覆盖分类任务的深度神经网络架构。神经网络架构搜索旨在自动在感兴趣的数据集上直接学习模型架构，已广泛应用于自然语言处理，图像分类，对象检测，语义分割等。这种数据驱动技术可以自动搜索通过了解数据集的分布特征，找到合适的神经网络架构。因此非常适合与高分辨率遥感影像土地覆盖分类任务结合，解决上述问题。本专利技术的目的在于提出一种基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法。提出的基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法采用了两阶段级联优化策略，在基于梯度的网络架构搜索(搜索阶段)中，设置了分层的基本搜索空间以提高的搜索效率。基于梯度下降法，交替优化体系结构和模型参数。搜索完成后，可以使用体系结构参数对搜索到的神经网络架构进行解码。然后，在任务驱动的体系结构训练(训练阶段)中，再次对搜索到的神经网络架构进行训练以优化模型参数。在本专利技术中我们所提出的基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法具有以下两个显著特点。一是基于梯度的神经网络结构搜索，针对大型高分辨率遥感影像数据集，提出了一种基于梯度的高效搜索方法。首先，设计分层搜索空间，即模块级空间和过渡级空间。在搜索空间的限制下，基于梯度方法为搜索空间引入了一种简单，连续的松弛方案，从而为结构及其参数的联合优化带来了可区分的学习目标。与效率低下的异步优化相反，可以对所有参数进行端到端训练，从而可以高效，快速地搜索高性能网络。此外，为了确保搜索网络的效率，针对模块级搜索，提出了一系列包括深度可分离卷积的轻量级操作。第二个显著特点是任务驱动的模型训练。对于土地覆盖分类任务，我们使用粗糙的空间金字塔池来处理分割概率图的输出，其中利用了多尺度上下文信息。本专利技术提供基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法，实现步骤如下：步骤1，获取高分辨率遥感影像土地覆盖分类数据集，将其拆分为两部分训练集，对输入数据进行归一化与数据增强；步骤2，构建分层的基本搜索空间，并采用基于梯度的搜索算法求解基本搜索空间参数；所述分层的基本搜索空间包括模块空间和过渡空间，所述模块空间定义为B个模块的组合，每个模块包括多个基础功能单元，基础功能单元用于将输入转换为不同的特征图；所述过渡空间用于定义不同特征图之间的空间分辨率转移路径；步骤3，依据基本搜索空间参数利用投票算法与维特比算法解码最优深度学习模型，并在训练集上进行训练；步骤4，基于训练收敛后的深度学习模型，对待分类样本进行预测，利用输出概率获取分类结果。进一步的，步骤1的具体实现包括如下子步骤，步骤1.1，利用无人机或者高分卫星进行拍摄，获取大量高空间分辨率影像；步骤1.2，采集遥感影像中C类感兴趣地物像素样本，将样本腌膜与对应区域影像制作成深度学习土地覆盖分类训练集；步骤1.3，将深度学习土地覆盖分类数据集划均等分成两个部分，训练集A与训练集B；步骤1.4，将TrainA与TrainB进行归一化，并利用水平翻转、垂直翻转、随机旋转进行数据增强。进一步的，步骤2的具体实现包括如下子步骤，步骤2.1，建立模块空间，所述模块空间定义为B个模块的组合，每个模块包含多个不同的基础功能单元，模块空间是对基础功能单元组合的一个空间定义，最终需要在该空间中找到最优的基础功能单元组合；首先获取初始输入数据作为输入，其中s与l分别定义特征图的输出尺寸和图层索引，对于第一层，首先是影像输入通过3×3卷积获取空间分辨率为原始影像大小1/4的特征图其中下标代表网络层数，00表示预热层中第一层，上标代表输出尺寸，然后再通过3×3卷积获取01表示预热层第二层，这两个输入数据进入模块空间的第一个模块，通过一系列操作获取T1，然后与中间结果T1作为第二个模块输入得到T2，以此类推，产生B个中间结果{T1,...,Tb,...,TB}，B个中间结果均为特征图；对于Tb的具体公式如下：其中，指模块从第i个特征图，通过加权操作并融合结果得到对Tb的部分输出值，由上式可知Tb由模块空间的输入以及它之前的中间结果{T1,...,Tb-1}得到，表示加权操作，将加权操作应用于特征图并根据模块空间的参数α获得加权结果，该参数定义为：其中αk≥0，0≤k≤8其中αk是代表每个基础功能单元的贡献程度，αk≥0且基础功能单元包括：3×3最大池化，3×3平均池化，3×3深度可分离卷积，5×5深度可分离卷积，3×3深度可分离空洞卷积，5×5深度可分离空洞卷积，无操作和无本文档来自技高网...

【技术保护点】
1.一种基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法，其特征在于，包括以下步骤：/n步骤1，获取高分辨率遥感影像土地覆盖分类数据集，将其拆分为两部分训练集，对输入数据进行归一化与数据增强；/n步骤2，构建分层的基本搜索空间，并采用基于梯度的搜索算法求解基本搜索空间参数；/n所述分层的基本搜索空间包括模块空间和过渡空间，所述模块空间定义为B个模块的组合，每个模块包括多个基础功能单元，基础功能单元用于将输入转换为不同的特征图；所述过渡空间用于定义不同特征图之间的空间分辨率转移路径；/n步骤3，依据基本搜索空间参数利用投票算法与维特比算法解码最优深度学习模型，并在训练集上进行训练；/n步骤4，基于训练收敛后的深度学习模型，对待分类样本进行预测，利用输出概率获取分类结果。/n

【技术特征摘要】
1.一种基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法，其特征在于，包括以下步骤：
步骤1，获取高分辨率遥感影像土地覆盖分类数据集，将其拆分为两部分训练集，对输入数据进行归一化与数据增强；
步骤2，构建分层的基本搜索空间，并采用基于梯度的搜索算法求解基本搜索空间参数；
所述分层的基本搜索空间包括模块空间和过渡空间，所述模块空间定义为B个模块的组合，每个模块包括多个基础功能单元，基础功能单元用于将输入转换为不同的特征图；所述过渡空间用于定义不同特征图之间的空间分辨率转移路径；
步骤3，依据基本搜索空间参数利用投票算法与维特比算法解码最优深度学习模型，并在训练集上进行训练；
步骤4，基于训练收敛后的深度学习模型，对待分类样本进行预测，利用输出概率获取分类结果。


2.根据权利要求1所述的一种基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法，其特征在于：步骤1的具体实现包括如下子步骤，
步骤1.1，利用无人机或者高分卫星进行拍摄，获取大量高空间分辨率影像；
步骤1.2，采集遥感影像中C类感兴趣地物像素样本，将样本腌膜与对应区域影像制作成深度学习土地覆盖分类训练集；
步骤1.3，将深度学习土地覆盖分类数据集划均等分成两个部分，训练集A与训练集B；
步骤1.4，将TrainA与TrainB进行归一化，并利用水平翻转、垂直翻转、随机旋转进行数据增强。


3.根据权利要求1所述的一种基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法，其特征在于：步骤2的具体实现包括如下子步骤，
步骤2.1，建立模块空间，所述模块空间定义为B个模块的组合，每个模块包含多个不同的基础功能单元，模块空间是对基础功能单元组合的一个空间定义，最终需要在该空间中找到最优的基础功能单元组合；
首先获取初始输入数据作为输入，其中s与l分别定义特征图的输出尺寸和图层索引，对于第一层，首先是影像输入通过3×3卷积获取空间分辨率为原始影像大小1/4的特征图其中下标代表网络层数，00表示预热层中第一层，上标代表输出尺寸，然后再通过3×3卷积获取01表示预热层第二层，这两个输入数据进入模块空间的第一个模块，通过一系列操作获取T1，然后与中间结果T1作为第二个模块输入得到T2，以此类推，产生B个中间结果{T1,...,Tb,...,TB}，B个中间结果均为特征图；对于Tb的具体公式如下：



其中，指模块从第i个特征图，通过加权操作并融合结果得到对Tb的部分输出值，由上式可知Tb由模块空间的输入以及它之前的中间结果{T1,...,Tb-1}得到，表示加权操作，将加权操作应用于特征图并根据模块空间的参数α获得加权结果，该参数定义为：

其中αk≥0，0≤k≤8
其中αk是代表每个基础功能单元的贡献程度，αk≥0且基础功能单元包括：3×3最大池化，3×3平均池化，3×3深度可分离卷积，5×5深度可分离卷积，3×3深度可分离空洞卷积，5×5深度可分离空洞卷积，无操作和无连接；
步骤2.2，建立过渡空间，所述过渡空间定义了模块空间中特征图的空间分辨率变换过程，最终需要通过搜索获取特征图的最优空间分辨率转移路径；
特征图尺寸最多具有四个隐藏状态其中下标指特征图空间分辨率尺寸，将特征图尺寸限制为最小空间分辨率OS32和最大OS4之间，OS是OutputStride缩写，数字代表原始输入图像尺寸与特征图的比值，β表示不同空间分辨率特征之间的转换概率，通过softmax归一化后，β满足以下条件：






因此，在过渡空间中，组合了前两个特征图并获得了三种组合：与分别代表前一层为输出尺寸2倍大小特征图，前一层为输出尺寸相同大小特征图，前一层为...

【专利技术属性】
技术研发人员：钟燕飞，王俊珏，马爱龙，郑卓，
申请(专利权)人：武汉大学，
类型：发明
国别省市：湖北;42