一种基于重参数的人脸识别性能优化方法技术

本发明专利技术公开了一种基于重参数的人脸识别性能优化方法，涉及人脸识别技术领域，首先构建一种多分支结构的人脸识别卷积神经网络进行训练；然后通过重参数的方法将训练好的卷积神经网络转换为单路结构的卷积神经网络；通过部署重构后的神经网络计算得到人脸的特征向量，将特征向量作为该人脸的表示；该方法设计了一种多分支结构的人脸识别卷积神经网络训练，在部署时，通过引入重参数技术，重构后的人脸识别卷积神经网络计算得到的人脸特征向量和原始网络计算结果相同，推理性能提升30％左右，实现了无损的性能优化。实现了无损的性能优化。实现了无损的性能优化。

【技术实现步骤摘要】
一种基于重参数的人脸识别性能优化方法


[0001]本专利技术涉及人脸识别
，尤其涉及一种基于重参数的人脸识别性能优化方法

技术介绍

[0002]人脸识别技术可以准确识别出图像中的人脸和身份，具有丰富的应用场景，例如互联网场景的身份辨识，金融场景下的刷脸支付和工作园区刷脸签到等等。人脸识别算法演变经历了以PCA为代表的早起阶段，再到以“手工特征+分类器”为主的统计学习阶段，近几年，随着大数据及GPU算力的爆发，人脸识别进入到深度学习算法为主导的阶段。
[0003]人脸识别的数据规模也从最初的几百张图片，数十张人脸，到现在动辄上百万甚至亿级别的图片，这样超大规模的数据对于人脸识别的神经网络的表达能力要求也越来越高，从最初堆叠常规的卷积神经网络结构，到使用Inception，resnet等多路分支结构作为主干网络，结合使用性能优异的组件来获得更好的识别效果，。
[0004]多路分支结构的网络，如图1所示，不同分支应用不同的卷积核，能获得不同感受野。Resnet中的残差结构也是多路分支结构。虽然多路分支结构提升了网络的效果，但是多路结构需要保存中间的结果，硬件GPU的显存占用量会明显增高，并且模型推理速度会有一定程度降低，这在工业场景上是不实用的。
[0005]随着对网络效果的不断探索，许多提升效果的优秀网络组件被提出。比如深度可分离卷积，分组卷积等等。分组卷积随着分组的组数增加，网络的效果会越好，但是内存访问成本也会显著增大，最终导致模型推理速度变慢。深度可分离卷积虽然可以显著降低浮点运算次数，但是内存访问成本也会增加，最终导致模型推理速度变慢，性能下降。
[0006]目前，人脸识别工业场景落地面临的问题是如果想要优秀的人脸识别效果，神经网络模型就不能过于简单，但是，复杂的网络结构又会导推理速度下降，性能降低，处理海量数据的能力不足。

技术实现思路

[0007]本专利技术所要解决的技术问题是针对现有技术的缺陷，提供一种人脸识别性能优化方法，在训练时，设计了一种多分支结构的人脸识别卷积神经网络保证识别效果，在部署时，通过引入重参数技术，重构后的人脸识别卷积神经网络计算得到的人脸特征向量和原始网络计算结果相同，推理性能提升30％左右，实现了无损的性能优化。
[0008]本专利技术为解决上述技术问题采用以下技术方案：
[0009]一种基于重参数的人脸识别性能优化方法，具体包含如下步骤；
[0010]步骤1，构建多分支结构的人脸识别卷积神经网络进行训练；
[0011]步骤2，通过重参数的方法将训练好的多分支结构的人脸识别卷积神经网络转换为单分支结构的卷积神经网络；
[0012]步骤3，通过部署重构后的神经网络计算得到人脸的特征向量，将特征向量作为该
人脸的表示。
[0013]作为本专利技术一种基于重参数的人脸识别性能优化方法的进一步优选方案，在步骤1中，建立多分支结构的人脸识别特征提取网络，具体如下：
[0014]步骤1.1，基于VGGNet构建VGGFace网络，其中VGGFace网络主体结构由conv3x3算子构成，conv3x3是一个尺寸为3x3的卷积核conv；
[0015]步骤1.2，VGGFace中的conv3x3算子再经过relu层进行特征过滤，保留有用的特征信息即特征中大于0的部分，过滤掉负值区域的信息，称为conv3x3
‑
relu结构；
[0016]步骤1.3，在原有的conv3x3
‑
relu结构之外，再增加残差结构分支和尺寸为1x1的卷积分支进行特征提取作为一个block；
[0017]步骤1.4，在特征提取模块由4个stage以串接的形式相连，分别处理通道数为96，192，384和1408的特征图，并分别输出96，192，384和1408的通道，为下一个stage做准备；
[0018]其中，每个stage包含若干结构一致的block，最后一个block之后接归一化层，再通过一个全连接层转化为固定维度的特征向量。
[0019]作为本专利技术一种基于重参数的人脸识别性能优化方法的进一步优选方案，在步骤2中，通过重参数的方法将训练好的多分支结构的卷积神经网络转换为单分支结构的卷积神经网络，具体包含卷积层和归一化层合并，算子conv_3x3和算子conv_1x1的合并，恒等层等效转换为卷积层三部分。
[0020]作为本专利技术一种基于重参数的人脸识别性能优化方法的进一步优选方案，所述卷积层和归一化层合并，具体如下：
[0021]设卷积层的输入为F
i
，输出为F
o
，卷积层参数为W，偏置参数为b，*为卷积操作，则conv算子的卷积过程的计算表示为：
[0022]F
o
＝W*Fi+b
[0023]设归一化层的通道均值为μ，方差为σ，权重为γ，偏移为β，常数项∈，该通道输入为X，输出为Y，则归一化层的计算表示为：
[0024][0025]改写成卷积计算的形式表示为：
[0026][0027]归一化层可看成输入和输出通道数相同的、卷积核大小为1*1的卷积层；
[0028]设卷积层的输入为F0，卷积层的输出或归一化层的输入为F1，归一化层的输出为F2；卷积层的权重为W
conv
，偏置参数为b
conv
，归一化层的权重为W
bn
，偏移为b
bn
，则有
[0029]F1＝W
conv
*f0+b
conv
[0030]F2＝W
bn
*F1+b
bn
[0031]根据矩阵乘法的交换律有：
[0032]F2＝W
bn
(W
conv
*F0+b
conv
)+b
bn
[0033]＝(W
bn
W
conv
)*F0+(W
bn
b
conv
+b
bn
)
[0034]实现了卷积层和归一化层的融合。
[0035]作为本专利技术一种基于重参数的人脸识别性能优化方法的进一步优选方案，所述算
子conv_3x3和算子conv_1x1的合并，卷积可加性的计算公式，具体如下：
[0036]设有两个3x3尺寸的卷积核参数分别为为W1，W2，输入为x，根据卷积的线性可加性则有，
[0037]W1*x+W2*x＝(W1+W2)*x
[0038]参数相加合并后构成一个新的3x3尺寸的卷积核；
[0039]算子conv_1x1的卷积过程同算子conv_3x3的卷积过程一样，将conv_1x1卷积核以扩充填0的方式构成conv_3x3的形式，进行相加，则卷积可加性的计算公式计算公式如下，
[0040][0041]其中，W
conv_3x3
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于重参数的人脸识别性能优化方法，其特征在于：具体包含如下步骤；步骤1，构建多分支结构的人脸识别卷积神经网络进行训练；步骤2，通过重参数的方法将训练好的多分支结构的人脸识别卷积神经网络转换为单分支结构的卷积神经网络；步骤3，通过部署重构后的神经网络计算得到人脸的特征向量，将特征向量作为该人脸的表示。2.根据权利要求1所述的一种基于重参数的人脸识别性能优化方法，其特征在于：在步骤1中，建立多分支结构的人脸识别特征提取网络，具体如下：步骤1.1，基于VGGNet构建VGGFace网络，其中VGGFace网络主体结构由conv3x3算子构成，conv3x3是一个尺寸为3x3的卷积核conv；步骤1.2，VGGFace中的conv3x3算子再经过relu层进行特征过滤，保留有用的特征信息即特征中大于0的部分，过滤掉负值区域的信息，称为conv3x3
‑
relu结构；步骤1.3，在原有的conv3x3
‑
relu结构之外，再增加残差结构分支和尺寸为1x1的卷积分支进行特征提取作为一个block；步骤1.4，在特征提取模块由4个stage以串接的形式相连，分别处理通道数为96，192，384和1408的特征图，并分别输出96，192，384和1408的通道，为下一个stage做准备；其中，每个stage包含若干结构一致的block，最后一个block之后接归一化层，再通过一个全连接层转化为固定维度的特征向量。3.根据权利要求1所述的一种基于重参数的人脸识别性能优化方法，其特征在于：在步骤2中，通过重参数的方法将训练好的多分支结构的卷积神经网络转换为单分支结构的卷积神经网络，具体包含卷积层和归一化层合并，算子conv_3x3和算子conv_1x1的合并，恒等层等效转换为卷积层三部分。4.根据权利要求3所述的一种基于重参数的人脸识别性能优化方法，其特征在于：所述卷积层和归一化层合并，具体如下：设卷积层的输入为F
i
，输出为F
o
，卷积层参数为W，偏置参数为b，*为卷积操作，则conv算子的卷积过程的计算表示为：F
o
＝W*Fi+b设归一化层的通道均值为μ，方差为σ，权重为γ，偏移为β，常数项∈，该通道输入为X，输出为Y，则归一化层的计算表示为：改写成卷积计算的形式表示为：归一化层可看成输入和输出通道数相同的、卷积核大小为1*1的卷积层；设卷积层的输入为F0，卷积层的输出或归一化层的输入为F1，归一化层的输出为F2；卷积层的权重为W
conv
，偏置参数为b
conv
，归一化层的权重为W
bn
，偏移为b
bn
，则有F1＝W
conv
*F0+b
conv

【专利技术属性】
技术研发人员：夏立，孟子涵，郑鹏，董文君，程晓阳，
申请(专利权)人：南京烽火星空通信发展有限公司，
类型：发明
国别省市：