一种基于稀疏特征重用的人脸特征提取网络的构建方法技术

本发明专利技术公开了一种基于稀疏特征重用的人脸特征提取网络的构建方法，基于稀疏特征重用、混合特征融合、中心—高斯池化三个创新点，构建了一个适用于人脸特征提取的卷积神经网络。该卷积神经网络适用于各类基于深度神经网络的人脸识别算法中的特征提取操作，可以准确提取到人脸部分的低级视觉特征和高级语义特征。在公开数据集上的实验表明，本发明专利技术具有计算量小、参数量小、人脸特征提取能力强等特点，并且在类如图像分类等更一般场景中也有较强的特征提取能力。

【技术实现步骤摘要】
一种基于稀疏特征重用的人脸特征提取网络的构建方法
本专利技术属于计算机视觉领域，尤其涉及一种基于稀疏特征重用的人脸特征提取网络的构建方法。
技术介绍
自从20世纪90年代以来，人脸识别技术就一直是计算机视觉领域的一个热点研究问题，在交通、安防、民生等领域应用广泛。在一个完整的人脸识别任务中往往包含了四个子任务：人脸检测，人脸对齐，特征提取，特征分类。其中以特征提取最为关键。当前主流的人脸识别算法往往以深度卷积神经网络为特征提取网络，并在网络训练过程中施加分类监督。然而，由于当前高性能的特征提取网络往往是基于ImageNet数据集研发，虽然适用于大规模图像分类任务，但是具有参数量大、计算量大等缺点，这往往无法满足经常需要部署到移动硬件平台的人脸识别算法的要求。因此，需要进一步研究适用于人脸识别这一特定场景且计算高效的网络结构，以提升人脸识别算法的性能和移动端部署能力。近年来，国内外学者提出了许多新颖的卷积神经网络设计思路，这些思路主要包括残差连接，自学习结构和密集连接等。以这三者为基础的代表性网络分别是ResNet，Inception和DenseNet网络。ResNet网络通过残差连接的方式解决了单纯堆叠网络层所带来的网络性能退化问题，残差块的引入使得被残差块所连接的部分网络只需要进行难度更低的残差学习，这大大提升了网络对复杂数据的拟合能力。使用残差连接设计的网络虽然可以通过大幅度加深网络的速度来达到更好的性能，但是以逐像素相加的方式进行残差连接会带来一定程度的信息损失。Inception网络通过自学习结构的方式解决了网络设计过程中如何设计卷积核大小这一问题，对同一级别的特征采用不同大小的卷积核并行学习，每一种类型的卷积核具体学到的信息让网络自行分配，这在提升了网络性能的同时也减轻了算法研究人员的超参数设置压力。使用自学习结构设计的网络虽然可以通过大幅度加宽网络的宽度来达到更好的性能，但是存在参数量大的缺点。DenseNet网络通过密集连接的方式解决了单一特征无法全面描述物体信息这一问题，特征之间的密集连接使得深层的特征在具有丰富的语义信息的同时也包含了一定的低级信息，如边缘、颜色、纹理等信息，使用这些混合的信息更能表达物体的全貌。同时，由于DenseNet采用了不同密集块之间使用相同的特征通道数这一设计，使得网络的参数量大幅度减少。使用密集连接设计的网络虽然具有较小的参数量和较高的性能，但是在网络训练和推理过程中的频繁IO操作会带来网络收敛缓慢、推理时间长等缺点。
技术实现思路
本专利技术目的在于提供一种基于稀疏特征重用的人脸特征提取网络的构建方法,以解决上述不同类型的特征提取网络存在技术问题。为解决上述技术问题，本专利技术具体的技术方案如下：一种基于稀疏特征重用的人脸特征提取网络的构建方法，包含以下步骤：步骤1、构建单个基本单元块，具体过程如下：步骤1.1、由3×3卷积组提取特征；步骤1.2、在第一组和最后一组3×3卷积组输出的特征之间采用逐元素相加和按通道级连的方式进行特征融合，达到特征重用的目的；步骤1.3、使用1×1卷积组对特征融合后得到的特征进行通道信息整合；步骤1.4、使用SEBlock对通道整合后的特征进行深层通道重要性重组；步骤1.5、使用单位恒等映射进行基本单元块残差学习；步骤2、将多个基本单元块堆叠在一起，不同的基本单元块堆叠可以同时得到丰富的低级视觉特征和高级语义特征；步骤3、在不同的基本单元块之间添加3×3卷积组和池化层，使用3×3卷积组对不同深度的基本单元块所提取到的特征进行整合，以便浅层特征平滑过度到深层特征，使用池化层对冗余的特征进行去除，并对特征整体进行降维；步骤4、在最后一个基本单元块后接中心-高斯池化，即对高斯池化中选择的强响应点以池化中心为原点进行高斯加权；步骤5、使用公开数据集对网络进行训练，并且在训练时关注损失函数的变化和不同训练轮数时训练集和验证集上的准确率，在网络达到收敛时停止训练，防止欠拟合和过拟合；步骤6、将收敛的网络在测试数据集上进行测试；步骤7、根据分类准确率和人脸识别准确率分析比较特征提取能力。进一步的，步骤1.2中所述特征融合方式为最后2组3×3卷积组输出的特征之间采用逐元素相加的方式进行特征融合，除最后2组外其他3×3卷积组输出的特征之间采用按通道级连的方式。进一步的，步骤1.4中SEBlock采用一层全连接层并将平均池化改为最大值池化，以减少信息缺失。进一步的，在训练数据集上进行训练的步骤包括使用MegaFace人脸识别数据集进行训练以验证人脸特征提取能力；使用ImageNet图像分类数据集进行训练以验证在一般场景下的特征提取能力。进一步的，测试步骤包括在LFW数据集上进行测试以验证人脸特征提取能力；在ImageNet数据集上进行测试以验证在一般场景下的特征提取能力。进一步的，步骤7中所述分析比较特征提取能力的步骤包括在ImageNet数据集上，使用Top-1测试错误率和Top-5测试错误率比较分类网络的性能；在LFW数据集上，使用识别准确率比较人脸识别算法的性能。本专利技术具有以下优点：本专利技术基于稀疏特征重用、混合特征融合、中心-高斯池化三个创新点构建，适用于各类基于深度神经网络的人脸识别算法中的特征提取操作，可以准确提取到人脸部分的低级视觉特征和高级语义特征。并且在公开数据集上的实验表明，本专利技术具有计算量小、参数量小、人脸特征提取能力强等特点，并且在类如图像分类等一般场景中也有较强的特征提取能力。附图说明图1为本专利技术单个基本单元块的内部结构示意图；图2为本专利技术改进后的SEBlock的内部结构示意图；图3为常规中心池化示意图；图4为本专利技术中心-高斯池化示意图；图5为网络测试错误率与计算量关系图；图6为网络测试错误率与参数量关系图；具体实施方式为了更好地了解本专利技术的目的、结构及功能，下面结合附图，对本专利技术一种基于稀疏特征重用的人脸特征提取网络的构建方法做进一步详细的描述。本专利技术包含以下步骤：步骤1：构建单个基本单元块。图1给出了本专利技术中构建的单个基本单元块的内部结构图，其中SFRBlock即为基本单元块。基本单元块是本专利技术的基本组成单元，在本专利技术中起到提取不同深度的语义信息的作用。浅层的基本单元块所提取到的特征具有较小的通道数，含有丰富的低级视觉特征，如颜色、形状、空间位置等；深层的基本单元块所提取到的特征具有较大的通道数，含有丰富的语义信息。构建单个基本单元块包括如下步骤：步骤1.1：由3×3卷积组提取特征。步骤1.2：在第一组和最后一组3×3卷积组输出的特征之间采用逐元素相加或者按通道级连进行特征融合，达到特征重用的目的。步骤1.3：使用1×1卷积组对特征融合后得到的特征进行通道信息整合。步骤1.4：使用SEBlock对通道整合后的特征进行深层通道重要性重组。...

【技术保护点】
1.一种基于稀疏特征重用的人脸特征提取网络的构建方法，其特征在于，包含以下步骤：/n步骤1、构建单个基本单元块，具体过程如下：/n步骤1.1、由3×3卷积组提取特征；/n步骤1.2、在第一组和最后一组3×3卷积组输出的特征之间采用逐元素相加和按通道级连的方式进行特征融合，达到特征重用的目的；/n步骤1.3、使用1×1卷积组对特征融合后得到的特征进行通道信息整合；/n步骤1.4、使用SE Block对通道整合后的特征进行深层通道重要性重组；/n步骤1.5、使用单位恒等映射进行基本单元块残差学习；/n步骤2、将多个基本单元块堆叠在一起，不同的基本单元块堆叠可以同时得到丰富的低级视觉特征和高级语义特征；/n步骤3、在不同的基本单元块之间添加3×3卷积组和池化层，使用3×3卷积组对不同深度的基本单元块所提取到的特征进行整合，以便浅层特征平滑过度到深层特征，使用池化层对冗余的特征进行去除，并对特征整体进行降维；/n步骤4、在最后一个基本单元块后接中心-高斯池化，即对高斯池化中选择的强响应点以池化中心为原点进行高斯加权；/n步骤5、使用公开数据集对网络进行训练，并且在训练时关注损失函数的变化和不同训练轮数时训练集和验证集上的准确率，在网络达到收敛时停止训练，防止欠拟合和过拟合；/n步骤6、将收敛的网络在测试数据集上进行测试；/n步骤7、根据分类准确率和人脸识别准确率分析比较特征提取能力。/n...

【技术特征摘要】
1.一种基于稀疏特征重用的人脸特征提取网络的构建方法，其特征在于，包含以下步骤：
步骤1、构建单个基本单元块，具体过程如下：
步骤1.1、由3×3卷积组提取特征；
步骤1.2、在第一组和最后一组3×3卷积组输出的特征之间采用逐元素相加和按通道级连的方式进行特征融合，达到特征重用的目的；
步骤1.3、使用1×1卷积组对特征融合后得到的特征进行通道信息整合；
步骤1.4、使用SEBlock对通道整合后的特征进行深层通道重要性重组；
步骤1.5、使用单位恒等映射进行基本单元块残差学习；
步骤2、将多个基本单元块堆叠在一起，不同的基本单元块堆叠可以同时得到丰富的低级视觉特征和高级语义特征；
步骤3、在不同的基本单元块之间添加3×3卷积组和池化层，使用3×3卷积组对不同深度的基本单元块所提取到的特征进行整合，以便浅层特征平滑过度到深层特征，使用池化层对冗余的特征进行去除，并对特征整体进行降维；
步骤4、在最后一个基本单元块后接中心-高斯池化，即对高斯池化中选择的强响应点以池化中心为原点进行高斯加权；
步骤5、使用公开数据集对网络进行训练，并且在训练时关注损失函数的变化和不同训练轮数时训练集和验证集上的准确率，在网络达到收敛时停止训练，防止欠拟合和过拟合；
步骤6、将收敛的网络在测试数据集上进行测试；
步骤7、根据分类准确率和人脸识别准确率分析比较特征提取能力。


2....

【专利技术属性】
技术研发人员：李春国，胡超，杨绿溪，
申请(专利权)人：东南大学，
类型：发明
国别省市：江苏;32