当前位置: 首页 > 专利查询>俞怡斐专利>正文

一种基于单幅图像的快速人脸三维模型生成和变换方法技术

技术编号:13957625 阅读:72 留言:0更新日期:2016-11-02 16:18
本发明专利技术公开了一种基于单幅图像的快速人脸三维模型生成和变换方法,该方法只用单幅正面人脸图像就能实时生成三维人脸模型,从而使该三维模型可以用于实时人机交互的应用中,比如多角度人脸识别,3D打印和变脸。在此基础上本发明专利技术还实现了人脸和其它面孔之间的实时变换。本发明专利技术操作简单、生成速度快又具有足够精度。

【技术实现步骤摘要】

本专利技术涉及人脸三维模型生成和变换方法,特别地,涉及基于人脸图像实时生成三维人脸模型,以及人脸模型和其它三维待处理模型之间的变换方法。
技术介绍
三维建模具有广泛的使用范围和极高的实用价值。它是正在蓬勃发展的虚拟现实,3D打印等计算机领域的基础性技术。它也同时在图像识别中起到有效的增进作用。比如对同一个物体的多角度照片的识别和关联。有了三维模型就可以进行同一个人不同角度照片的比对,从而识别不同的照片中出现的是否是同一个人。现有的根据三维照片建模的常用方法都需要多个特定角度多幅照片,所使用的多个照相机位置之间的相互关系是需要矫正的。这个门槛就将普通用户排除在外,而只能被专业用户所用。而且现有的三维建模方法需要的时间会长达几分钟,这样的等待是交互式应用所无法接受的,因为已经习惯于网络实时交互的用户不可能等那么久。而现有的基于单幅照片进行三维建模的方法精度太差,获得的人脸模型只有面部特征的轮廓线比较精确,其余位置缺乏细节,所以根本没有实用价值。
技术实现思路
本专利技术的目的是克服现有技术的不足,提供一种基于单幅图像的快速人脸三维模型生成和变换方法,本专利技术操作简单、生成速度快又具有足够精度。本专利技术的目的是通过以下技术方案来实现的:一种基于单幅图像的快速人脸三维模型生成方法,包括如下步骤:(1)输入正面人脸图像。(2)输入图像面部特征的提取:所提取的面部特征包括面部轮廓线上的点,以及双眼、鼻子,嘴唇轮廓线上的点。(3)输入图像面部特征的微调:首先取双眼的外侧眼角之间连线的中点,把通过这个中点且与连线垂直的直线作为面部中线;根据该中线对鼻子上面的特征点以及面部轮廓线上的特征点进行微调,使他们对于该面部中线是对称的。同样将嘴唇的中点调整至面部中线上。(4)输入图像面部特征和默认三维人脸模型的全局对准处理:取默认三维人脸模型的二维XY坐标,和输入图像面部特征做二维的全局对准。(5)通过对默认三维人脸模型的多层二维自由变形进行局部对准:经过步骤4把默认三维人脸模型的特征点的二维位置全局对准到输入图像上微调过的面部特征点后,通过对默认三维人脸模型的二维XY坐标的多层自由变形,对上述两组特征点进行局部对准,并使得默认三维人脸模型上的所有顶点跟随这些特征点平滑地移动。(6)变形后默认三维人脸模型深度值的矫正:将输入图像上所有面部像素的颜色和检测到的所有特征点的位置变换成两套主元素系数。串联这两套主元素系数。预先通过一个数据库学习得到一个基于人工神经网络的非线性回归模型。将该模型用到这个串联的主元素系数上,得到了输入正面人脸图像的三维模型和默认三维人脸模型之间所有顶点的深度差的主元素系数,再从这些主元素系数可以重建所有顶点的深度差。最后将所有顶点的深度差加至步骤5处理后的默认三维人脸模型的深度,得到步骤1输入正面人脸图像的三维模型。一种基于单幅图像的快速人脸三维模型变换方法,包括如下步骤:(1)输入正面人脸图像。(2)输入图像面部特征的提取:所提取的面部特征包括面部轮廓线上的点,以及双眼、鼻子,嘴唇轮廓线上的点。(3)输入图像面部特征的微调:首先取双眼的外侧眼角之间连线的中点,把通过这个中点且与连线垂直的直线作为面部中线;根据该中线对鼻子上面的特征点以及面部轮廓线上的特征点进行微调,使他们对于该面部中线是对称的。同样将嘴唇的中点调整至面部中线上。(4)输入图像面部特征和默认三维人脸模型的全局对准处理:取默认三维人脸模型的二维XY坐标,和输入图像面部特征做二维的全局对准。(5)通过对默认三维人脸模型的多层二维自由变形进行局部对准:经过步骤4把默认三维人脸模型的特征点的二维位置全局对准到输入图像上微调过的面部特征点后,通过对默认三维人脸模型的二维XY坐标的多层自由变形,对上述两组特征点进行局部对准,并使得默认三维人脸模型上的所有顶点跟随这些特征点平滑地移动。(6)变形后默认三维人脸模型深度值的矫正:将输入图像上所有面部像素的颜色和检测到的所有特征点的位置变换成两套主元素系数。串联这两套主元素系数。预先通过一个数据库学习得到一个基于人工神经网络的非线性回归模型。将该模型用到这个串联的主元素系数上,得到了输入正面人脸图像的三维模型和默认三维人脸模型之间所有顶点的深度差的主元素系数,再从这些主元素系数可以重建所有顶点的深度差。最后将所有顶点的深度差加至步骤5处理后的默认三维人脸模型的深度,得到步骤1输入正面人脸图像的三维模型。(7)输入待变换的三维模型。(8)待变换的三维模型与默认三维人脸模型的全局对准处理。(9)待变换的三维模型与默认三维人脸模型的点对点密集对应关系的获取。(10)计算待变换的三维模型上进行待变换的三维模型和默认三维人脸模型混合所需的所有顶点的加权系数。(11)待变换的三维模型的比例调整。(12):根据步骤9得到的待变换的三维模型与默认三维人脸模型的点对点密集对应关系和步骤10中得到的待变换的三维模型上进行待变换的三维模型和默认三维人脸模型混合所需的所有顶点的加权系数,对步骤11调整后待变换的三维模型和步骤6获得的输入正面人脸图像的三维模型进行混合,得到的混合模型上的顶点由如下计算得到:v*(i)=(w(i)-w(i)2)vF(i)+w(i)2vD(LUT[i])+(1-w(i))vT(i),其中,vF(i)为vF的第i个顶点,vT(i)为vT的第i个顶点,vD为步骤6获得的输入正面人脸图像的三维模型上的顶点,LUT是步骤9得到的待变换的三维模型与默认三维人脸模型的点对点密集对应关系,LUT[i]为待变换的三维模型第i个顶点所对应的默认三维人脸模型上的顶点的标号。(13)对变形后得到的混合模型进行纹理映射。本专利技术的有益效果是,本专利技术提供一种操作简单、生成速度快又具有足够精度的基于单幅图像的三维人脸建模方法,在此基础上实现了人脸和其它面孔之间的实时变脸。本专利技术特别适用于需要实时反应的人机交互式应用。附图说明图1是本专利技术的流程图。具体实施方式下面结合附图详细描述本专利技术,本专利技术的目的和效果将变得更加明显。如图1所示,本专利技术基于单幅图像的快速人脸三维模型生成方法,包括如下步骤:步骤1:输入正面人脸图像。步骤2:输入图像面部特征的提取采用Xudong Cao,Yichen Wei,Fang Wen and Jian Sun,“Face Alignmentby Explicit Shape Regression,”International Journal of Computer Vision论文中阐述的方法提取输入图像的面部特征。所述面部特征包括面部轮廓线上的点,以及双眼,鼻子,嘴唇轮廓线上的点。步骤3:输入图像面部特征的微调因为输入图像通常不是绝对的正面照,导致检测到的面部特征的位置存在不对称性,为弥补这个偏差,需要对检测到的面部特征进行微调。首先取双眼的外侧眼角之间连线的中点,把通过这个中点且与连线垂直的直线作为面部中线。根据该中线对鼻子上面的特征点以及面部轮廓线上的特征点进行微调,使他们对于该面部中线是对称的。同样将上嘴唇的中点调整至面部中线上。步骤4:输入图像微调过的面部特征和默认三维人脸模型的全局对准处理所述默认三维人脸模型指的是一个具有平均脸型的固定的三维网格人脸模型。取默认三维人脸模型上的特征点的二维XY坐本文档来自技高网...

【技术保护点】
一种基于单幅图像的快速人脸三维模型生成方法,其特征在于,包括如下步骤:(1)输入正面人脸图像。(2)输入图像面部特征的提取:所提取的面部特征包括面部轮廓线上的点,以及双眼、鼻子,嘴唇轮廓线上的点。(3)输入图像面部特征的微调:首先取双眼的外侧眼角之间连线的中点,把通过这个中点且与连线垂直的直线作为面部中线;根据该中线对鼻子上面的特征点以及面部轮廓线上的特征点进行微调,使他们对于该面部中线是对称的。同样将嘴唇的中点调整至面部中线上。(4)输入图像面部特征和默认三维人脸模型的全局对准处理:取默认三维人脸模型的二维XY坐标,和输入图像面部特征做二维的全局对准。(5)通过对默认三维人脸模型的多层二维自由变形进行局部对准:经过步骤4把默认三维人脸模型的特征点的二维位置全局对准到输入图像上微调过的面部特征点后,通过对默认三维人脸模型的二维XY坐标的多层自由变形,对上述两组特征点进行局部对准,并使得默认三维人脸模型上的所有顶点跟随这些特征点平滑地移动。(6)变形后默认三维人脸模型深度值的矫正:将输入图像上所有面部像素的颜色和检测到的所有特征点的位置变换成两套主元素系数。串联这两套主元素系数。预先通过一个数据库学习得到一个基于人工神经网络的非线性回归模型。将该模型用到这个串联的主元素系数上,得到了输入正面人脸图像的三维模型和默认三维人脸模型之间所有顶点的深度差的主元素系数,再从这些主元素系数可以重建所有顶点的深度差。最后将所有顶点的深度差加至步骤5处理后的默认三维人脸模型的深度,得到步骤1输入正面人脸图像的三维模型。...

【技术特征摘要】
1.一种基于单幅图像的快速人脸三维模型生成方法,其特征在于,包括如下步骤:(1)输入正面人脸图像。(2)输入图像面部特征的提取:所提取的面部特征包括面部轮廓线上的点,以及双眼、鼻子,嘴唇轮廓线上的点。(3)输入图像面部特征的微调:首先取双眼的外侧眼角之间连线的中点,把通过这个中点且与连线垂直的直线作为面部中线;根据该中线对鼻子上面的特征点以及面部轮廓线上的特征点进行微调,使他们对于该面部中线是对称的。同样将嘴唇的中点调整至面部中线上。(4)输入图像面部特征和默认三维人脸模型的全局对准处理:取默认三维人脸模型的二维XY坐标,和输入图像面部特征做二维的全局对准。(5)通过对默认三维人脸模型的多层二维自由变形进行局部对准:经过步骤4把默认三维人脸模型的特征点的二维位置全局对准到输入图像上微调过的面部特征点后,通过对默认三维人脸模型的二维XY坐标的多层自由变形,对上述两组特征点进行局部对准,并使得默认三维人脸模型上的所有顶点跟随这些特征点平滑地移动。(6)变形后默认三维人脸模型深度值的矫正:将输入图像上所有面部像素的颜色和检测到的所有特征点的位置变换成两套主元素系数。串联这两套主元素系数。预先通过一个数据库学习得到一个基于人工神经网络的非线性回归模型。将该模型用到这个串联的主元素系数上,得到了输入正面人脸图像的三维模型和默认三维人脸模型之间所有顶点的深度差的主元素系数,再从这些主元素系数可以重建所有顶点的深度差。最后将所有顶点的深度差加至步骤5处理后的默认三维人脸模型的深度,得到步骤1输入正面人脸图像的三维模型。2.根据权利要求1所述基于单幅图像的快速人脸三维模型生成方法,其特征在于,所述步骤(4)中,所述默认三维人脸模型指的是一个具有平均脸型的固定的三维网格人脸模型。取默认三维人脸模型上的特征点的二维XY坐标,通过计算一个包括二维旋转、二维平移的全局变换矩阵T2D,将默认三维人脸模型上的特征点的二维XY坐标和输入图像的微调过的面部特征做二维的全局对准。矩阵形式如下: T 2 D = r 0 r 1 t x - r 1 r 0 t y ]]>该矩阵是通过解以下的优化问题得到的: argmin T 2 D Σ i | | T 2 D p f ( i ) - v G ( i ) | | 2 ]]>其中,T2D是全局变换矩阵,r0、r1、tx和ty是全局变换矩阵T2D的元素,且r0、r1表示二维旋转,tx和ty表示二维平移;pf(i)=[xf(i) yf(i) 1]T为第i个面部特征点的二维齐次坐标,xf(i)和yf(i)为二维齐次坐标的横坐标和纵坐标;vG(i)是默认三维人脸模型上第i个特征点的XY坐标,G表示默认三维人脸模型,f表示输入图像的面部特征点。3.根据权利要求1所述基于单幅图像的快速人脸三维模型生成方法,其特征在于,所述步骤(6)中,所述非线性回归模型是由人脸数据库训练得到的,其训练过程如下:(6.1)、对数据库中每幅图像上所有面部特征点的位置进行主元素分析(PCA),得到一个图像面部特征点位置的主元素降维模型PCAf以及数据库中每幅图像上所有面部特征点的位置的主元素系数。同时对数据库中每幅图像上所有面部像素的颜色进行主元素分析,得到一个图像面部像素颜色的主元素降维模型PCAI以及数据库中每幅图像上所有面部像素的颜色的主元素系数。(6.2)、计算数据库中每个三维人脸模型和默认三维人脸模型之间所有顶点的深度差,并对该深度差也进行主元素分析,得到一个面部顶点深度差的主元素降维模型PCAZ以及数据库中每个三维人脸模型所有顶点的深度差的主元素系数。(6.3)、把步骤6.1中计算得到的数据库中每幅图像的两套主元素系数串联作为一个四层人工神经网络的输入,把步骤6.2中计算得到的数据库中每个三维人脸模型所有顶点深度差的主元素系数作为人工神经网络的预期的输出,用随机梯度下降法对神经网络内部的权重进行优化。由此得到的人工神经网络就是我们所需要的非线性回归模型。4.根据权利要求1所述基于单幅图像的快速人脸三维模型生成方法,其特征在于,所述步骤(6)中,所述“将该模型用到这个串联的主元素系数上,得到了输入正面人脸图像的三维模型和默认三维人脸模型之间所有顶点的深度差的主元素系数,再从这些主元素系数可以重建所有顶点的深度差。”的过程具体如下所述:定义Cf为输入图像上所有面部特征点的位置Vf的主元素系数,CI为输入图像上所有面部像素的颜色VI的主元素系数。那么:Cf=PCAf(Vf),CI=PCAI(VI),其中,I表示输入图像上的面部像素,PCAf(Vf)表示用图像面部特征点位置的主元素降维模型对Vf做主元素投影,PCAf表示图像面部特征点位置的主元素降维模型,PCAI(VI)表示用图像面部像素颜色的主元素降维模型对VI做主元素投影,PCAI表示图像面部像素颜色的主元素降维模型。定义CZ为输入正面人脸图像的三维模型和默认三维人脸模型之间所有顶点的深度差ΔZ的主元素系数。那么:CZ=PCAZ(ΔZ),其中,Z表示输入正面人脸图像的三维模型的顶点深度,PCAZ(ΔZ)表示用面部顶点深度差的主元素降维模型对ΔZ做主元素投影,PCAZ表示面部顶点深度差的主元素降维模型。输入正面人脸图像的三维模型的所有顶点的深度值是由以下公式计算得出: Z ~ = Z ‾ + PCA Z - 1 ( C ~ Z ) , ]]>其中,为CZ的估计值,为Z的估计值,R(Cf,CI)表示把非线性回归模型用到Cf和CI的串联上,表示用从数据库学习得到的面部顶点深度差的主元素降维模型重建输入正面人脸图像的三维模型和默认三维人脸模型之间所有顶点的深度差,表示默认三维人脸模型的顶点深度。5.一种基于单幅图像的快速人脸三维模型变换方法,其特征在于,包括如下步骤:(1)输入正面人脸图像。(2)输入图像面部特征的提取:所提取的面部特征包括面部轮廓线上的点,以及双眼、鼻子,嘴唇轮廓线上的点。(3)输入图像面部特征的微调:首先取双眼的外侧眼角之间连线的中点,把通过这个中点且与连线垂直的直线作为面部中线;根据该中线对鼻子上面的特征点以及面部轮廓线上的特征点进行微调,使他们对于该面部中线是对称的。同样将嘴唇的中点调整至面部中线上。(4)输入图像面部特征和默认三维人脸模型的全局对准处理:取默认三维人脸模型的二维XY坐标,和输入图像面部特征做二维的全局对准。(5)通过对默认三维人脸模型的多层二维自由变形进行局部对准:经过步骤4把默认三维人脸模型的特征点的二维位置全局对准到输入图像上微调过的面部特征点后,通过对默认三维人脸模型的二维XY坐标的多层自由变形,对上述两组特征点进行局部对准,并使得默认三维人脸模型上的所有顶点跟随这些特征点平滑地移动。(6)变形后默认三维人脸模...

【专利技术属性】
技术研发人员:俞怡斐
申请(专利权)人:俞怡斐
类型:发明
国别省市:浙江;33

相关技术
    暂无相关专利
网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1