一种基于残差网络的特征图处理方法技术

本发明专利技术公开了一种基于残差网络的特征图处理方法，包括：在残差网络的瓶颈层残差支路中最后一个卷积层之后接入一SE模块；在残差网络的桥连接支路中下采样模块之后接入一SE模块；在残差网络的加法模块与激活函数模块之间接入实例标准化模块；将特征图输入经过改进的残差网络进行处理，得到下一层的特征图。本发明专利技术对传统残差网络进行了改进，分别在瓶颈层残差支路和桥连接支路中加入了一SE模块，并在残差网络中加入了实例标准化模块，利用经过改进的残差网络处理特征图，增强了瓶颈层残差支路中的特征图，接入实例标准化模块提高了残差网络的泛化能力，消除了残差网络对图像外观因素的影响。

A method of feature map processing based on residual network

【技术实现步骤摘要】
一种基于残差网络的特征图处理方法
本专利技术涉及计算机视觉
，具体涉及一种基于残差网络的特征图处理方法。
技术介绍
图像空域具有局部相关性，对图像进行卷积的过程就是对图像的局部相关性的一种提取。卷积核的作用在于特征提取，卷积核尺寸越大意味着感受野更大，当然参数也就越多。1*1卷积的作用是可以改变特征图的通道维数，同时增加网络的非线性表达能力，通过对多个特征图线性组合，实现跨通道的交互和信息整合能力。GoogLeNet的Inception模块的四个分支里都有1*1卷积来减少参数量和计算量，并且使得四个分支的输出通道拼接维度相互匹配。ResNet(ResidualNeuralNetwork)的结构可以极快地加速神经网络的训练，模型的准确率也有比较大的提升。同时ResNet的推广性非常好，甚至可以直接用到InceptionNet网络中。ResNet的主要思想是在网络中增加了直连通道，即HighwayNetwork的思想。此前的网络结构是性能输入做一个非线性变换，而HighwayNetwork则允许保留之前网络层的一定比例的输出。ResNet的思想和HighwayNetwork的思想也非常类似，允许原始输入信息直接传到后面的层中，这样的话这一层的神经网络可以不用学习整个的输出，而是学习上一个网络输出的残差，因此ResNet又叫做残差网络。残差网络是由来自MicrosoftResearch的4位华人学者提出的卷积神经网络，在2015年的ImageNet大规模视觉识别竞赛中获得了图像分类和物体识别的冠军。ResNet在残差连接中也使用了1*1卷积，先使用1*1卷积进行降维，然后再经过3*3卷积层处理，最后用1*1卷积进行升维，使得参数量大大减少，桥连接中使用下采样来调整通道维数，使得两个分支的通道维数一致。
技术实现思路
本专利技术的一个目的是提供一种基于残差网络的特征图处理的新的技术方案。为了对披露的实施例的一些方面有一个基本的理解，下面给出了简单的概括。该概括部分不是泛泛评述，也不是要确定关键/重要组成元素或描绘这些实施例的保护范围。其唯一目的是用简单的形式呈现一些概念，以此作为后面的详细说明的序言。根据本专利技术实施例的一个方面，提供一种基于残差网络的特征图处理方法，包括：在残差网络的瓶颈层残差支路中最后一个卷积层之后接入一挤压激励模块；在残差网络的桥连接支路中下采样模块之后接入一挤压激励模块；在残差网络的加法模块与激活函数模块之间接入实例标准化模块；所述加法模块用于将桥连接支路和瓶颈层残差支路的特征通道相加；将特征图输入经过改进的残差网络进行处理，得到下一层的特征图。进一步地，所述将特征图输入经过改进的残差网络进行处理，得到下一层的特征图，包括：将特征图分别输入桥连接支路和瓶颈层残差支路进行处理；在桥连接支路中，特征图依次经过下采样模块处理和挤压激励模块处理后输出；在瓶颈层残差支路中，特征图依次经过若干卷积层处理和挤压激励模块处理后输出；通过加法模块将分别从桥连接支路和瓶颈层残差支路输出的处理后的特征图进行相加；将相加后的结果输入所述实例标准化模块处理；将所述实例标准化模块处理得到的结果输入RELU函数激活模块进行处理，得到下一层的特征图。进一步地，所述经过改进的残差网络的瓶颈层残差支路包括由外向内依次设置的第一处理层、第二处理层和第三处理层。进一步地，所述第一处理层包括由外向内依次设置的步长为1的1×1卷积层、批标准化模块和ReLU函数激活模块。进一步地，所述第二处理层包括由外向内依次设置的步长为2的3×3卷积层、批标准化模块和ReLU函数激活模块。进一步地，所述第三处理层包括由外向内依次设置的步长为2的1×1卷积核和批标准化模块。进一步地，所述下采样模块包括由外向内依次设置的步长为1的1×1卷积层和步长为2的2*2平均池化层。一种电子设备，其特征在于，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现所述的基于残差网络的特征图处理方法。一种非临时性计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行，以实现所述的基于残差网络的特征图处理方法。本专利技术实施例提供的技术方案可以包括以下有益效果：本专利技术实施例提供的基于残差网络的特征图处理方法，对传统残差网络进行了改进，分别在瓶颈层残差支路和桥连接支路中加入了一个挤压激励模块，并在残差网络中加入了实例标准化模块，利用经过改进的残差网络处理特征图，增强了瓶颈层残差支路中的特征图，接入实例标准化模块提高了残差网络的泛化能力，消除了残差网络对图像的颜色、亮度、风格等外观因素的影响。本专利技术的其他特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者，部分特征和优点可以从说明书中推知或毫无疑义地确定，或者通过实施本专利技术实施例了解。本专利技术的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。附图说明为了更清楚地说明本专利技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1为本申请的一个实施例的流程图；图2为本申请实施例中的经过改进的残差网络结构示意图。具体实施方式为了使本专利技术的目的、技术方案及优点更加清楚明白，下面结合附图和具体实施例对本专利技术做进一步说明。应当理解，此处所描述的具体实施例仅用以解释本专利技术，并不用于限定本专利技术。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。本
技术人员可以理解，除非另外定义，这里使用的所有术语(包括技术术语和科学术语)，具有与本专利技术所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是，诸如通用字典中定义的那些术语，应该被理解为具有与现有技术的上下文中的意义一致的意义，并且除非像这里一样被特定定义，否则不会用理想化或过于正式的含义来解释。如图1和图2所示，本申请的一个实施例提供了一种基于残差网络的特征图处理方法，包括：S1.在残差网络的瓶颈层残差支路中最后一个卷积层之后接入一SE模块，能够增强瓶颈层残差支路中的特征图；SE模块即挤压激励模块；S2.在残差网络的桥连接支路中下采样模块之后接入一SE模块；S3.在残差网络的加法模块与激活函数模块之间接入实例标准化模块，接入实例标准化模块能够提高残差网络的泛化能力，消除残差网络对图像的颜色、亮度、风格等外观因素的影响；所述加法模块用于将桥连接支路和瓶颈层残差支路的特征通道相加；S4.将特征图输入经过改进的残差网络进行处理，得到下一层的特征图。可本文档来自技高网...

【技术保护点】
1.一种基于残差网络的特征图处理方法，其特征在于，包括：/n在残差网络的瓶颈层残差支路中最后一个卷积层之后接入一挤压激励模块；/n在残差网络的桥连接支路中下采样模块之后接入一挤压激励模块；/n在残差网络的加法模块与激活函数模块之间接入实例标准化模块；所述加法模块用于将桥连接支路和瓶颈层残差支路的特征通道相加；/n将特征图输入经过改进的残差网络进行处理，得到下一层的特征图。/n

【技术特征摘要】
1.一种基于残差网络的特征图处理方法，其特征在于，包括：
在残差网络的瓶颈层残差支路中最后一个卷积层之后接入一挤压激励模块；
在残差网络的桥连接支路中下采样模块之后接入一挤压激励模块；
在残差网络的加法模块与激活函数模块之间接入实例标准化模块；所述加法模块用于将桥连接支路和瓶颈层残差支路的特征通道相加；
将特征图输入经过改进的残差网络进行处理，得到下一层的特征图。


2.根据权利要求1所述的方法，其特征在于，所述将特征图输入经过改进的残差网络进行处理，得到下一层的特征图，包括：
将特征图分别输入桥连接支路和瓶颈层残差支路进行处理；
在桥连接支路中，特征图依次经过下采样模块处理和挤压激励模块处理后输出；
在瓶颈层残差支路中，特征图依次经过若干卷积层处理和挤压激励模块处理后输出；
通过加法模块将分别从桥连接支路和瓶颈层残差支路输出的处理后的特征图进行相加；
将相加后的结果输入所述实例标准化模块处理；
将所述实例标准化模块处理得到的结果输入RELU函数激活模块进行处理，得到下一层的特征图。


3.根据权利要求1或2所述的方法，其特征在于，所述经过...

【专利技术属性】
技术研发人员：贾琳，赵磊，
申请(专利权)人：特斯联北京科技有限公司，
类型：发明
国别省市：北京;11