一种数字人物的实时生成方法及装置制造方法及图纸

技术编号:43885181 阅读:35 留言:0更新日期:2024-12-31 19:10
本申请公开了一种数字人物的实时生成方法及装置,获取音频内容和二维数字人物形象图像,通过预先训练的全身动作生成模型,对音频内容进行处理,得到三维全身姿态序列,将三维全身姿态序列映射为二维全身姿态序列,通过预先训练的实时姿态驱动生成模型,对二维全身姿态序列和二维数字人物形象图像进行实时姿态驱动,得到对应姿态视频,通过预先构建的唇同步模型和音频内容,实时调整对应姿态视频中数字人物的面部图像,使面部图像中的唇形与音频内容一致,得到目标数字人物视频,其中,目标数字人物视频为全身动作、面部表情和语音内容语义一致的二维数字人物视频。

【技术实现步骤摘要】

本申请涉及计算机视觉,更具体地说,涉及一种数字人物的实时生成方法及装置


技术介绍

1、二维数字人物生成技术是一项运用计算机视觉技术创造出来的与人类形象接近的数字化人物形象的方法,二维数字人生成技术旨在通过移植人的动作,表情来驱动二维数字人物做出跟人类一样的行为动作,在直播、电商、虚拟社交等领域有着广泛的应用。

2、但是,现有二维数字人物生成动作比较单调,内容表达单一,很多都是采用预设动作和音频驱动进行数字人物驱动,由于数字人物驱动的过程中,数字人物表情和动作都是分开驱动,资源消耗大,难以满足实时的应用需求,从而降低与用户的互动体验。

3、因此,如何提高数字人物与用户的互动性和真实性,是本申请亟需解决的问题。


技术实现思路

1、有鉴于此,本申请公开了一种数字人物的实时生成方法及装置,旨在得到全身动作、面部表情和语音内容语义一致的二维数字人物视频,提高数字人物与用户的互动性和真实性。

2、为了实现上述目的,其公开的技术方案如下:

3、本申请第一方面公开了一种数字人本文档来自技高网...

【技术保护点】

1.一种数字人物的实时生成方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,训练全身动作生成模型的过程,包括:

3.根据权利要求1所述的方法,其特征在于,所述三维全身姿态序列至少包括肢体骨架信息和表情坐标信息,所述将所述三维全身姿态序列映射为二维全身姿态序列,包括:

4.根据权利要求1所述的方法,其特征在于,所述实时姿态驱动生成模型至少包括外观控制网络、潜在扩散模型和姿态控制模块,训练实时姿态驱动生成模型的过程,包括:

5.根据权利要求1所述的方法,其特征在于,所述通过预先训练的实时姿态驱动生成模型,对所述二维全身...

【技术特征摘要】

1.一种数字人物的实时生成方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,训练全身动作生成模型的过程,包括:

3.根据权利要求1所述的方法,其特征在于,所述三维全身姿态序列至少包括肢体骨架信息和表情坐标信息,所述将所述三维全身姿态序列映射为二维全身姿态序列,包括:

4.根据权利要求1所述的方法,其特征在于,所述实时姿态驱动生成模型至少包括外观控制网络、潜在扩散模型和姿态控制模块,训练实时姿态驱动生成模型的过程,包括:

5.根据权利要求1所述的方法,其特征在于,所述通过预先训练的实时姿态驱动生成模型,对所述二维全身姿态序列和所述二维数字人物形象图像进行实时姿态驱动,得到对应姿态视频,包括:

...

【专利技术属性】
技术研发人员:胡灿张康姚广祁晗杨杰杨涛
申请(专利权)人:湖南快乐阳光互动娱乐传媒有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1