基于交叉验证深度CNN特征集成的地基气象云图分类方法技术

本发明专利技术属于地基气象云图分类技术领域，具体涉及基于交叉验证深度CNN特征集成的地基气象云图分类方法。本发明专利技术首先利用卷积神经网络模型提取地基气象云图像的深层CNN特征，然后基于交叉验证进行CNN特征的多次重抽样，最后，基于多次交叉验证重抽样结果的投票策略来进行地基云图云状的识别。对地基气象云图像进行自动分类，实现了没有任何图像预处理，直接基于原始云图像的自适应性的端到端自动云状识别算法。提出算法涉及计算机视觉，机器学习，图像识别等领域。提出的算法充分克服了单次CNN特征云状分类结果的不鲁棒性，和多次深度卷积神经网络集成的高计算开销，同时保证了提出算法具有高的分类准确率和噪声稳定性。

Classification method of ground meteorological cloud image based on cross validation depth CNN feature integration

【技术实现步骤摘要】
基于交叉验证深度CNN特征集成的地基气象云图分类方法
本专利技术属于地基气象云图分类
，具体涉及基于交叉验证深度CNN特征集成的地基气象云图分类方法。
技术介绍
深度卷积神经网络，是深度学习的代表性算法之一，是一种基于统计学习的概率模型，在其具体实现算法中虽然深度卷积网络在卷积层，池化层，全连接层上有各种各样的变化，但从大类上来看它始终是属于神经网络范畴的。实际上，深度卷积神经网络的核心是特征学习，它通过卷积和池化操作自适应地学习大量的特征信息，解决了传统机器学习中需要人工设计特征的缺陷。从受Hubel和Wiesel对猫和猴的视觉皮层含有对视野的小区域单独反应的神经元研究的启发开始，到LeCun最早将CNN模型用于手写数字识别，再到CNN在2014年ImageNet竞赛上的大幅度图像识别性能提升，CNN开启了它的高速发展时代。卷积神经网络在图像处理、自然语言处理、人脸识别和医药发现等很多研究领域和方向上都取得了重大突破，已经成为了这些实际应用领域的代表性技术之一，相应地，卷积神经网络的研究也成为了这些领域的研究热点问题。特别地，地基气象云图作为一种新的自然纹理图像近年来在计算机视觉领域也得到了极大的关注，深度学习技术应用于地基气象云图的分析和识别研究也随之越来越多。卷积神经网络技术应用于地基气象云图的云状识别避免了图像处理前期对云图像的复杂预处理，卷积神经网络的局部感受野使每个神经元不需要对整个图像进行感知，只需要进行局部感知，在网络深层将感知到的所有信息综合起来就可得到图像的全局信息；它的权值共享的策略更符合生物神经网络的特性，极大地减少了权值参数的数目，降低了整个图像处理过程的计算复杂度。但是当直接基于单个卷积神经网络学习的深层CNN特征进行地基云图的云状识别时，分类结果往往是不鲁棒的，因为它太依赖于单次提取的CNN特征的好坏。另一方面，克服或缓解上述缺陷的一种自然的方式即是训练多个深度神经网络，然后基于多个网络的分类集成来给出最后的云状识别结果，然而，显然这样的方式会显著增加整个分类过程的计算开销，因为往往训练单个深度网络的计算开销就已经很大，训练多个网络的计算复杂度可能是不可接受的。
技术实现思路
针对云状识别过程计算复杂、单次CNN特征云状分类结果不鲁棒性的问题，本专利技术提供了基于交叉验证深度CNN特征集成的地基气象云图分类方法。这种改进，具体包含以下两个方面：1)如何把诸如交叉验证等技术应用于深度CNN特征的重抽样，实现地基气象云图的高效自动分类？2)如何在保证不增加计算开销的前提下提高地基气象云图云状识别的准确率和稳定性？为了达到上述目的，本专利技术采用了下列技术方案：基于交叉验证深度CNN特征集成的地基气象云图分类方法，首先利用单个卷积神经网络模型提取地基气象云图像的深层CNN特征，然后基于交叉验证进行CNN特征的多次重抽样，最后，基于多次交叉验证重抽样结果的投票策略来进行地基云图云状的识别。针对用来度量深度神经网络模型复杂度的Rademacher复杂度度量，我们理论上给出了提出的深度CNN特征集成方法的Rademacher复杂度上界，证明了提出方法具有更小的Rademacher复杂度。另一方面，考察了提出方法在高斯噪声下的泛化误差界，证明了提出方法具有更小的泛化误差和更好的噪声稳定性。进一步，所述首先利用单个卷积神经网络模型提取地基气象云图像的深层CNN特征，然后基于交叉验证进行CNN特征的多次重抽样，最后，基于多次交叉验证重抽样结果的投票策略来进行地基云图云状的识别，具体步骤包括：步骤1，进行CNN模型中卷积层特征的学习，得到训练特征向量和测试特征向量；步骤2，将训练特征向量均分为K组，且对应将测试特征向量均分为K组，然后将每个子集数据分别做一次验证集，其余的K-1组子集数据作为训练集；步骤3，将所有训练集分别采用多值逻辑回归进行训练，得到K组模型的分类结果；步骤4，用每个训练集对应的验证集进行验证，得到K组模型的分类结果；步骤5，对在所有训练集和验证集上得到的分类结果，采用相对多数投票法得到最终分类结果，其中，H(x)表示类别标记集合{c1,c2,...cm}中预测出的一个标记，为学习器hi在类别标记cj上的输出。即预测为得票最多的标记为图像分类的最终分类结果，若同时有多个标记获得最高票，则从中随机选取一个。从统计的角度，由于学习任务往往有很大的假设空间，单一学习器可能因误选而导致泛化性能不佳，我们理论上给出了将多个学习器进行结合，常可获得比单一学习器显著优越的泛化性能，证明了提出方法具有很高的准确率，和优越的泛化性能。再进一步，所述步骤1进行CNN模型中卷积层特征的学习，得到训练特征向量和测试特征向量，具体操作步骤包括：步骤1.1，将地基气象云图像数据集以7:3的比例分为训练样本集和测试样本集；步骤1.2，选择CNN模型中的VGG16模型开始训练，保留训练好的卷积层的参数，进行参数微调；步骤1.3，输入训练样本，对训练样本进行归一化处理，进行CNN模型训练；步骤1.4，输入测试样本，基于训练好的CNN模型进行测试；步骤1.5，将训练样本和测试样本分别用训练好的CNN模型进行特征提取，即保留通过多层卷积操作后拉直的云图特征向量。针对卷积神经网络进行特征提取，避免了图像处理前期对云图像的复杂预处理，它的局部感受野和权值共享的特性，极大地减少了权值参数的数目，降低了整个图像处理过程的计算复杂度。进一步，所述地基气象云图像数据集为：记一个包含n张地基气象云图像的数据集为Dn，则Dn＝{zi,i＝1,...,n}；其中，zi是数据集Dn中的第i张云图像。采用基于交叉验证深度CNN特征集成的分类方法，该方法具有集成学习的本质，比单个网络具有更强的鲁棒性。其次，由于深层网络中丰富的特征信息，每个子分类都可以通过一个特征子集来解决。这样，该方法在单个网络中具有相似数量的参数，因此，比现有的大多数的集成学习更有效。因此，该方法克服了单次CNN特征云状分类结果的不鲁棒性，和多次深度卷积神经网络集成的高计算开销，又同时保证了高的分类准确率和噪声稳定性。与现有技术相比本专利技术具有以下优点：1)只基于单个卷积神经网络进行深层CNN特征的提取，不需要训练多个卷积神经网络模型，极大地降低了整个过程的计算复杂度；2)基于CNN特征的交叉验证多次重抽样结果的投票集成来进行云状的识别，使其具有很高的准确率和稳定性，避免了传统分类过程中图像预处理，人工特征设计，分类器选择多个分散步骤的执行，实现了高效鲁棒自适应的地基云图云状自动分类。附图说明图1为基于交叉验证深度CNN特征集成的地基气象云图分类流程图；图2为CNN模型中的VGG16模型图；图3为训练特征向量和测试特征向量的交叉验证图。具体实施方式实施例1本实施例中的基于交叉验证深度C本文档来自技高网...

【技术保护点】
1.基于交叉验证深度CNN特征集成的地基气象云图分类方法，其特征在于：首先利用单个卷积神经网络模型提取地基气象云图像的深层CNN特征，然后基于交叉验证进行CNN特征的多次重抽样，最后，基于多次交叉验证重抽样结果的投票策略来进行地基云图云状的识别。/n

【技术特征摘要】
1.基于交叉验证深度CNN特征集成的地基气象云图分类方法，其特征在于：首先利用单个卷积神经网络模型提取地基气象云图像的深层CNN特征，然后基于交叉验证进行CNN特征的多次重抽样，最后，基于多次交叉验证重抽样结果的投票策略来进行地基云图云状的识别。


2.根据权利要求1所述的基于交叉验证深度CNN特征集成的地基气象云图分类方法，其特征在于：所述首先利用单个卷积神经网络模型提取地基气象云图像的深层CNN特征，然后基于交叉验证进行CNN特征的多次重抽样，最后，基于多次交叉验证重抽样结果的投票策略来进行地基云图云状的识别，具体步骤包括：
步骤1，进行CNN模型中卷积层特征的学习，得到训练特征向量和测试特征向量；
步骤2，将训练特征向量均分为K组，且对应将测试特征向量均分为K组，然后将每个子集数据分别做一次验证集，其余的K-1组子集数据作为训练集；
步骤3，将所有训练集分别采用多值逻辑回归进行训练，得到K组模型的分类结果；
步骤4，用每个训练集对应的验证集进行验证，得到K组模型的分类结果；
步骤5，对在所有训练集和验证集上得到的分类结果，采用相对多数投票法得到最终分类结果，



其中，H(x)表示类别标记集合{c1,c...

【专利技术属性】
技术研发人员：王钰，章豪东，杨杏丽，李济洪，
申请(专利权)人：山西大学，
类型：发明
国别省市：山西;14