一种给予自适应的人脸特征分离提取方法技术

技术编号:26223292 阅读:21 留言:0更新日期:2020-11-04 10:55
本发明专利技术公开了一种给予自适应的人脸特征分离提取方法,包括Super‑Cross entropy算法;所述Super‑Cross entropy算法由Hardminging和添加隔距为基础融入到框架内。本发明专利技术的有益效果是:在train的过程中逐渐的增加hard Sample的权重,与此同时把关注点放在不正确classification的Sample上,给于这些Sample难易不同程度的权重值,来指导可分Features的学习。解决人脸Features提取的损失函数的高效性和实用性,可以降低Hard Sample的Uncertainty,又汲取其他Sample的Partibility,从而得到更好的Features。

【技术实现步骤摘要】
一种给予自适应的人脸特征分离提取方法
本专利技术涉及一种人脸特征分离提取方法,具体为一种给予自适应的人脸特征分离提取方法,属于人脸识别

技术介绍
人脸识别是CV领域的一项重要任务。目前人脸识别技术特别是在超大型的数据集上的表现,还有很多需要去优化完善。现阶段人脸识别技术的核心在于特征高维度的有效分离。为了解决这个问题我们先从以下这两个角度谈起:1,基于挖掘策略HardSample挖掘即HardNegative/PositiveMining,关注Sample可提供的信息。2,基于隔距损失函数来强化Features在真实候选框上的mapping之间的间隔。但这两个方法在train整个过程中过于重视hardSample,从而使整个network无法Convergence0如果对所有的Sample都进行统一尺度的隔距值,这样会使Sample本身的不同情况特征难以区分,所以不能以一个固定阈值为准,需要根据每个不同Sample指定不同的自适应策略。现阶段的人脸识别都是以深度学习为基础进行搭建,训练深层网络模型,使用Crossentropy交叉熵损失和Metriclearning计量学损失但这样的方式常常给我们带来庞大的计算开销。为了降低这个问题带来的影响,设计了Stochastic采样的方针,所以Metriclearning的performance对于这它影响很大。所以,开始重新搭建以Crossentropy为基础的loss。若类内的聚合性和类间的分离性即松耦合高内聚达到最大,那么features就是很有使用的价值了。但普通的Crossentropyloss在深度学习的深网络架构进行features学习缺少有效提取特性也就是说分离有意义的features的效果很不理想。为此也有人提出了基于Miningloss来解决HardMining,通过Stochastic先验知识得到HardSample的占比,再去掉SimpleSample0也可以设计类似SoftMining,只关注在一个hardSample上进行train。也可以基于model的complexity来选择HardSample,train—个Integratedmodel,为不同的difficultyLevel的Sample分别train—个model。也可以设计基于隔距的loss,例如为每个classification学习一个簇中心,来增强同一个classification的内聚性,通过缩放系数来控制loss,对分好的Sample产生大的gradient权重来降低类间的联系。也可以对真实候选框和其他的classification,在两者之间增加一个隔距来增加classification之间的Discriminate。但这样常常不是很稳定,而且参数很难优化。
技术实现思路
本专利技术的目的就在于为了解决上述问题而提供一种给予自适应的人脸特征分离提取方法。本专利技术通过以下技术方案来实现上述目的:一种给予自适应的人脸特征分离提取方法,包括Super-Crossentropy算法;所述Super-Crossentropy算法由Hardminging和添加隔距为基础融入到框架内,所述Super-Crossentropy算法包括以下步骤:Input:卷积层Sample特征x对应的标签y;其中,在卷积层的初始化参数为Θ;最后全签接层参数为W;学习率为λ;自适应学习参数为t;迭代次数为a。while不收敛:根据对HardSample的定义,使用Super-Crossentropy迭送代计算每个卷积特征x和权重w的反向传播更新梯度,并更新参数Θ和W;其中,EndOutput:参数Θ和W。作为本专利技术再进一步的方案:所述Super-Crossentropy算法在训练起始关注SimpleSample,在train的过程中逐渐的增加hardSample的权重,与此同时把关注点放在不正确classification的Sample上,给于这些Sample难易不同程度的权重值,来指导可分Features的学习。作为本专利技术再进一步的方案:所述Super-Crossentropy算法的Crossentropyloss是在FC层之后,Wk和最后一层出来的Feature进行Normalization,然后使用一个松弛因子S进缩放。即给定一个FeatureX,真实候选框是Y,公式如下:其中,是余弦相似度,是wk和X之间的角度,这样得到的Feature没有需要进行的识别所需要的Discriminate。而HardMining的核心在train的全过程中包含的实际意义的Sampledataset,从而得到更加Discriminate的Features公式如下:其中:以上是对真实classification进行的predict的probability。作为本专利技术再进一步的方案:所述隔距增加Feature的Discriminate定义如下:其中,是隔距Function,m是大于1的整数。作为本专利技术再进一步的方案:所述Hardminging的loss和隔距的loss结合在一起构成Super-Crossentropy算法的Naive:并定义了Binari-Interpolation-Mask来预测在当前状态下的对于指定的classifier,是否是需要的Features,Binari-Interpolation-Mask定义如下:并添加了结合spatial和channel-wise信息的网络的block,其核心就是attention机制引入到SampleFeatures,进行identity的SampleFeatures恒等映射,与此同时引入了一个自适应参量可以使Features趋向于稀疏化,定义如下:其中,是自适应学习的hyperparameter和attention映射的parameter,而定义为:当t=l的时候,损失就是原始的Crossentropyloss,而当t=0的时候,就是需要的hardSample。作为本专利技术再进一步的方案:所述Super-Crossentropy算法将hardmining和隔距融合到统一的loss中,并对隔距的Decisionboundary进行了自适应学习的调整,添加了Features的分解提取从而保留特征值最大的几项,对loss的进一步公式为:其中X是隔距,基于隔距的Decisionboundary重新计算得到:不仅从真实的候选框Features中得到了隔距,还从非真实的候选框的classification中得到Features的隔距,从hardmining中得到Semantic上增加了Minging的尺度。本专利技术的有益效果是:该给予自适应的人本文档来自技高网
...

【技术保护点】
1.一种给予自适应的人脸特征分离提取方法,包括Super-Cross entropy算法;其特征在于:所述Super-Cross entropy算法由Hardminging和添加隔距为基础融入到框架内,所述Super-Cross entropy算法包括以下步骤:/nInput:卷积层Sample特征x对应的标签y;/n其中,在卷积层的初始化参数为Θ;/n最后全签接层参数为W;/n学习率为λ;/n自适应学习参数为t;/n迭代次数为a;/nwhile不收敛:根据对Hard Sample的定义,使用Super-Cross entropy迭送代计算每个卷积特征x和权重w的反向传播更新梯度,并更新参数Θ和W;其中,/n

【技术特征摘要】
1.一种给予自适应的人脸特征分离提取方法,包括Super-Crossentropy算法;其特征在于:所述Super-Crossentropy算法由Hardminging和添加隔距为基础融入到框架内,所述Super-Crossentropy算法包括以下步骤:
Input:卷积层Sample特征x对应的标签y;
其中,在卷积层的初始化参数为Θ;
最后全签接层参数为W;
学习率为λ;
自适应学习参数为t;
迭代次数为a;
while不收敛:根据对HardSample的定义,使用Super-Crossentropy迭送代计算每个卷积特征x和权重w的反向传播更新梯度,并更新参数Θ和W;其中,









End
Output:参数Θ和W。


2.根据权利要求1所述的一种给予自适应的人脸特征分离提取方法,其特征在于:所述Super-Crossentropy算法在训练起始关注SimpleSample,在train的过程中逐渐的增加hardSample的权重,与此同时把关注点放在不正确classification的Sample上,给于这些Sample难易不同程度的权重值,来指导可分Features的学习,解决人脸Features提取的损失函数的高效性和实用性,可以降低HardSample的Uncertainty,又汲取其他Sample的Partibility,从而得到更好的Features。


3.根据权利要求1所述的一种给予自适应的人脸特征分离提取方法,其特征在于:所述Super-Crossentropy算法的Crossentropyloss是在FC层之后,Wk和最后一层出来的Feature进行Normalization,然后使用一个松弛因子S进缩放。
即给定一个FeatureX,真实候选框是Y,公式如下:



其中,是余弦相似度,是wk和X之间的角度,这样得到的Feature没有需要进行的识别所需要的Discriminate。而HardMining的核心在train的全过程中包含的实际意义的Sampledataset,从而得到更加Discriminate的Features公式如下:



其中:



以上是对真实classification进行的predict的probability。


4.根据权利要求1所述的一种给予自...

【专利技术属性】
技术研发人员:肖红彬孙靖
申请(专利权)人:北京思维实创科技股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1