后训练量化方法、装置及电子设备制造方法及图纸

技术编号:35243722 阅读:33 留言:0更新日期:2022-10-19 09:49
本申请公开了一种后训练量化方法、装置及电子设备,涉及计算机技术领域,该方法包括:获取待校准图像,所述待校准图像为人脸图像;将所述待校准图像输入至浮点网络,并利用所述待校准图像对所述浮点网络的网络参数进行优化,得到目标参数,所述浮点网络的网络参数为所述浮点网络的归一化层对应的网络参数;获取与所述目标参数对应的仿射矩阵,并将该仿射矩阵作为所述待校准图像对应的仿射矩阵,所述仿射矩阵包括多个人脸校准参数;利用所述仿射矩阵对所述待校准图像进行校准,得到目标图像;根据所述目标图像对所述浮点网络进行量化。如此,本申请可以通过获取仿射矩阵可以简单有效的实现人脸校准,并且可以降低量化所需的成本。并且可以降低量化所需的成本。并且可以降低量化所需的成本。

【技术实现步骤摘要】
后训练量化方法、装置及电子设备


[0001]本申请涉及计算机
,更具体地,涉及一种后训练量化方法、装置、电子设备及存储介质。

技术介绍

[0002]目前在电脑侧开发神经网络时,一般采取32

bit浮点型来进行网络流动的数值计算以及存储网络的权值,且电脑侧可以使用拥有大量浮点计算单元的图形处理器对神经网络进行加速。然而,在移动互联网时代,越来越多的人工智能算法需要在移动端落地,而现有技术在个人计算机上运行的神经网络模型在资源紧张的移动端设备上,效率便成为很大的瓶颈,故如何更好的对浮点网络进行量化是亟待解决的技术问题。

技术实现思路

[0003]本申请提出了一种后训练量化方法、装置及电子设备及存储介质,可以改善上述问题。
[0004]一方面,本申请实施例提供了一种后训练量化方法,该方法包括:获取待校准图像,所述待校准图像为人脸图像;将所述待校准图像输入至浮点网络,并利用所述待校准图像对所述浮点网络的网络参数进行优化,得到目标参数,所述浮点网络的网络参数为所述浮点网络的归一化层对应的网络参数;获取与所本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种后训练量化方法,其特征在于,所述方法包括:获取待校准图像,所述待校准图像为人脸图像;将所述待校准图像输入至浮点网络,并利用所述待校准图像对所述浮点网络的网络参数进行优化,得到目标参数,所述浮点网络的网络参数为所述浮点网络的归一化层对应的网络参数;获取与所述目标参数对应的仿射矩阵,并将该仿射矩阵作为所述待校准图像对应的仿射矩阵,所述仿射矩阵包括多个人脸校准参数;利用所述仿射矩阵对所述待校准图像进行校准,得到目标图像;根据所述目标图像对所述浮点网络进行量化。2.根据权利要求1所述的方法,其特征在于,所述利用所述待校准图像对所述浮点网络的网络参数进行优化,得到目标参数,包括:对所述浮点网络的归一化层对应的网络参数进行初始化,得到第一参数;利用初始化后的所述浮点网络对所述待校准图像进行识别,得到识别结果;根据所述识别结果对所述第一参数进行优化,得到目标参数。3.根据权利要求2所述的方法,其特征在于,所述根据所述识别结果对所述第一参数进行优化,得到目标参数,包括:获取初始化前所述浮点网络的归一化层对应的网络参数,并将该参数作为第二参数;当优化后的所述第一参数与所述第二参数满足预设条件时,将优化后的所述第一参数作为目标参数。4.根据权利要求3所述的方法,其特征在于,所述当优化后的所述第一参数与所述第二参数满足预设条件时,将优化后的所述第一参数作为目标参数,包括:获取优化后的所述第一参数与所述第二参数之间的损失值;当所述损失值小于损失阈值时,将优化后的所述第一参数作为目标参数。5.根据权利要求4所述的方法,其特征在于,所述损失值的计算公式为:其中,loss指的是所述第一参数与所述第二参数之间的损失值,x(θ)指的是所述待校准图像,和指的是所述第一参数中的均值和方差,和表示的是第二参数中的均值和方差。6.根据权利要求1至5任一所述的方法,其特征在于,所述将所述待校准图像输入至浮点网络,得到仿射矩阵之前,包括:获取人脸校准网...

【专利技术属性】
技术研发人员:康洋
申请(专利权)人:腾讯科技深圳有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1