一种采用改进的轻量级卷积神经网络的公共交通识别方法技术

本发明专利技术请求保护一种采用改进的轻量级卷积神经网络的公共交通识别方法，属于计算机视觉检测领域，包括：在网络结构中引入轻量化通道注意力模块，采用重参数化对通道注意力模块进行参数转换，得到一个深度卷积单元；将网络结构中的ReLU激活函数进行替换，采用性能更优的Swish激活函数；设计通道混洗卷积核，将输入特征图在特征通道顺序上进行反置得到反置特征图，将反置特征图与输入特征图进行元素相加操作，得到一个特征通道之间信息混合的输出特征图；设置初始通道混合系数，分别赋值到输入特征图和反置特征图，并参与到模型训练过程中，训练完成后得到模型自适应的混合系数，达到输入特征图和反置特征图的自适应混合状态。到输入特征图和反置特征图的自适应混合状态。到输入特征图和反置特征图的自适应混合状态。

【技术实现步骤摘要】
一种采用改进的轻量级卷积神经网络的公共交通识别方法


[0001]本专利技术属于计算机视觉检测领域，具体涉及一种改进的基于重参数化的轻量级卷积神经网络。

技术介绍

[0002]近些年来，深度学习技术正快速地应用到各个领域中，这得益于一系列富有成效的大型卷积神经网络相继被提出。然而神经网络的识别精度在不断提高的同时，模型参数量也越来越多，对硬件资源的要求较高，使用场景受到限制。物联网科技的高速发展促进了移动便携式设备在工业、金融、交通等领域的大规模应用，而大型神经网络却无法适用于这些要求实时性检测的场景。因此，轻量级卷积神经网络开始受到人们的重视。
[0003]不同于以往的大型神经网络，轻量级卷积神经网络更加注重神经网络的运行效率。SqueezeNet是一个早期基于轻量化考虑而设计的神经网络，它与AlexNet具有相同等级别的精度，模型参数量却减少了50倍。SqueezeNet虽然一定程度上减少了卷积计算量，但仍然使用传统的卷积计算方式，具有较高的计算复杂度。MobileNet系列的神经网络摒弃了传统的卷积计算方式，引入了更加轻量化的深度可分离卷积，将传统的卷积计算过程分为逐通道卷积与逐点1x1卷积两步，从而大大降低了卷积计算量。深度可分离卷积虽然降低了传统卷积的计算量，但其结构中的逐点1x1卷积依旧需要大量的计算量，因此ShuffleNet系列的神经网络将其中的逐点1x1卷积改进为1x1组卷积，进一步地降低了卷积计算量。GhostNet考虑到逐点1x1卷积的不足，采用了更加轻量化的Ghost module结构来替代逐点1x1卷积，达到降低模型计算量的目的。这些经典的轻量级卷积神经网络可以广泛地应用到移动端的实时检测场景中，极大地促进了深度学习在各个行业的发展。
[0004]随着科技的进步，人们对于深度学习有了更高的应用要求。轻量级神经网络虽然能够满足实时检测场景的运行要求，但常常因为模型检测精度不足，而导致错误的检测结果，从而造成额外的经济损失。因此，必须对轻量级神经网络进行改进，其中公共交通识别领域，涉及到人生安全，因此对神经网络的检测结果要求具有很高的可信度，同时对于神经网络的检测速度也有较高的要求，如果神经网络检测结果不可靠或者检测时间过长，都将造成无法预估的严重后果。并且公共交通识别涉及范围非常广泛，检测环境异常复杂，对神经网络的检测适用性要求较高，不能具有明显的应用局限性。因此，研究一种具有更好的检测精度，同时还能保持实时检测性能，并且具有较为广泛应用性的轻量级神经网络十分必要。

技术实现思路

[0005]本专利技术旨在解决以上现有技术的问题。提出了一种采用改进的轻量级卷积神经网络的公共交通识别方法。本专利技术的技术方案如下：
[0006]一种采用改进的轻量级卷积神经网络的公共交通识别方法，其包括以下步骤：
[0007]一、获取大型公共数据集ImageNet 2012，其中包含了公共交通领域存在的绝大部
分类别数据图像，并进行图像预处理；
[0008]二、改进轻量级卷积神经网络的步骤；
[0009]S1，具体包括：在卷积神经网络结构中引入轻量化通道注意力模块，采用重参数化对通道注意力模块进行参数转换，得到一个深度卷积单元；
[0010]S2、将网络结构中的ReLU激活函数进行替换，采用Swish激活函数；
[0011]S3、设计通道混洗卷积核，将输入特征图在特征通道顺序上进行反置得到反置特征图，将反置特征图与输入特征图进行元素相加操作，得到一个特征通道之间信息混合的输出特征图；
[0012]S4、设置初始通道混合系数，分别赋值到输入特征图和反置特征图，并参与到模型训练过程中，训练完成后得到模型自适应的混合系数，达到输入特征图和反置特征图的自适应混合状态；
[0013]三、将预处理后的交通图像输入改进轻量级卷积神经网络中，得到公共交通识别结果。
[0014]进一步的，所述步骤一、获取大型公共数据集ImageNet 2012，其中包含了公共交通领域存在的绝大部分类别数据图像，并进行图像预处理，具体包括：
[0015]从ImageNet官网下载ILSVRC2012图像检测数据集，其中包含了1000个物体分类，训练集包含约120万张图片，验证集包含5万张图片。在1000个物体类别中，包含了客车、自行车、轿车、卡车、摩托车、救护车、消防车、火车、校车、公交车、警车、行人、交通信号灯、交通标识牌等绝大部分公共交通领域内存在的物体种类。
[0016]对数据集中的图像进行预处理过程包括以下步骤：
[0017]步骤1：将原图像进行随机裁剪，然后将裁剪后的图像缩放为224*224尺寸的图像。
[0018]步骤2：对缩放后的图像进行图像增强，修改图像的亮度、对比度和饱和度，其中亮度、对比度和饱和度的调整范围均设置为原图的0.6
‑
1.4。
[0019]步骤3:对图像增强后的图像以0.5的概率进行随机水平翻转。
[0020]步骤4:对随机翻转后的图像进行归一化操作，将图像的像素值从0
‑
255的范围，除以255，映射到0
‑
1。
[0021]进一步的，所述步骤S1中采用重参数化对通道注意力模块进行参数转换过程具体如下：
[0022]S1
‑
1、在模型训练阶段，将SA
‑
Net混洗注意力网络的通道注意力结构中的Sigmoid操作进行裁剪，采用一组可训练的权重系数Sigmoid weight来代替；
[0023]S1
‑
2、在模型推理阶段，将全局均值池化操作等效成一个尺寸同输入特征图大小的深度卷积核，等效后的卷积参数值均为其中H为输入特征图的高度，W为输入特征图的宽度；
[0024]S1
‑
3、在模型推理阶段，将其他可训练的通道权重系数与由全局均值池化等效的卷积核参数进行相乘及相加数学运算，得到重参数化后的通道权重系数卷积核。
[0025]进一步的，所述步骤S2中Swish激活函数关系式如下：
[0026][0027]其中x为输入特征图信息参数，f(x)为输入特征图信息参数经过非线性映射过后的输出特征图信息参数。
[0028]进一步的，所述步骤S3设计通道混洗卷积核，将输入特征图在特征通道顺序上进行反置得到反置特征图，将反置特征图与输入特征图进行元素相加操作，得到一个特征通道之间信息混合的输出特征图，具体包括：
[0029]S3
‑
1、分别设计C个尺寸维度为C*1*1的正序卷积核，以及C个尺寸维度为C*1*1的反序卷积核，每个卷积核的参数设置规则如下：
[0030][0031]其中C为输入特征图的通道数；w
c_i
为第c个正序卷积核的第i个通道上的参数值；w
c
′
_i
为第c个反序卷积核的第i个通道上的参数值；i为每个卷积核的通道序号，i＝0,1,
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种采用改进的轻量级卷积神经网络的公共交通识别方法，其特征在于，包括以下步骤：一、获取大型公共数据集ImageNet 2012，其中包含了公共交通领域存在的绝大部分类别数据图像，并进行图像预处理；二、改进轻量级卷积神经网络的步骤；S1，具体包括：在卷积神经网络结构中引入轻量化通道注意力模块，采用重参数化对通道注意力模块进行参数转换，得到一个深度卷积单元；S2、将网络结构中的ReLU激活函数进行替换，采用Swish激活函数；S3、设计通道混洗卷积核，将输入特征图在特征通道顺序上进行反置得到反置特征图，将反置特征图与输入特征图进行元素相加操作，得到一个特征通道之间信息混合的输出特征图；S4、设置初始通道混合系数，分别赋值到输入特征图和反置特征图，并参与到模型训练过程中，训练完成后得到模型自适应的混合系数，达到输入特征图和反置特征图的自适应混合状态；三、将预处理后的交通图像输入改进轻量级卷积神经网络中，得到公共交通识别结果。2.根据权利要求1所述的一种采用改进的轻量级卷积神经网络的公共交通识别方法，其特征在于，所述步骤一、获取大型公共数据集ImageNet 2012，其中包含了公共交通领域存在的绝大部分类别数据图像，并进行图像预处理，具体包括：从ImageNet官网下载ILSVRC2012图像检测数据集，其中包含了1000个物体分类，训练集包含约120万张图片，验证集包含5万张图片。在1000个物体类别中，包含了客车、自行车、轿车、卡车、摩托车、救护车、消防车、火车、校车、公交车、警车、行人、交通信号灯、交通标识牌等绝大部分公共交通领域内存在的物体种类；对数据集中的图像进行预处理过程包括以下步骤：步骤1：将原图像进行随机裁剪，然后将裁剪后的图像缩放为224*224尺寸的图像；步骤2：对缩放后的图像进行图像增强，修改图像的亮度、对比度和饱和度，其中亮度、对比度和饱和度的调整范围均设置为原图的0.6
‑
1.4；；步骤3:对图像增强后的图像以0.5的概率进行随机水平翻转；步骤4:对随机翻转后的图像进行归一化操作，将图像的像素值从0
‑
255的范围，除以255，映射到0
‑
1。3.根据权利要求1所述的一种采用改进的轻量级卷积神经网络的公共交通识别方法，其特征在于，所述步骤S1中采用重参数化对通道注意力模块进行参数转换过程具体如下：S1
‑
1、在模型训练阶段，将SA
‑
Net混洗注意力网络的通道注意力结构中的Sigmoid操作进行裁剪，采用一组可训练的权重系数Sigmoid weight来代替；S1
‑
2、在模型推理阶段，将全局均值池化操作等效成一个尺寸同输入特征图大小的深度卷积核，等效后的卷积参数值均为其中H为输入特征图的高度，W为输入特征图的宽度；S1
‑
3、在模型推理阶段，将其他可训练的通道权重系数与由全局均值池化等效的卷积核参数进行相乘及相加数学运算，得到重参数化后的通道权重系数卷积核。
4.根据权利要求1所述的一种采用改进的轻量级卷积神经网络的公共交通识别方法，其特征在于，所述步骤S2中Swish激活函数关系式如下：其中x为输入特征图信息参数，f(x)为输入特征图信息参数经过非线性映射过后的输出特征图信息参数。5.根据权利要求1所述的一种采用改进的轻量级卷积神经网络的公共交通...

【专利技术属性】
技术研发人员：纪良浩，马恺璘，
申请(专利权)人：重庆邮电大学，
类型：发明
国别省市：