基于点云的渲染、模型训练、虚拟形象生成方法及装置制造方法及图纸

本公开提供了基于点云的渲染、模型训练、虚拟形象生成方法及装置，涉及人工智能技术领域，尤其涉及计算机视觉、增强现实、虚拟现实、深度学习等技术领域，可应用于元宇宙、数字人等场景。具体实现方案为：根据对象的三维点云信息，得到表征对象的第一属性特征的第一深度学习特征以及表征对象的第二属性特征的第二深度学习特征；对第一深度学习特征进行第一特征增强处理，得到第一渲染特征向量；对第二深度学习特征进行第二特征增强处理，得到第二渲染特征向量；以及根据第一渲染特征向量和第二渲染特征向量，得到对象的对象渲染信息。得到对象的对象渲染信息。得到对象的对象渲染信息。

【技术实现步骤摘要】
基于点云的渲染、模型训练、虚拟形象生成方法及装置


[0001]本公开涉及人工智能
，尤其涉及计算机视觉、增强现实、虚拟现实、深度学习等
，可应用于元宇宙、数字人等场景，具体地，涉及一种基于点云的渲染、模型训练、虚拟形象生成方法及装置。

技术介绍

[0002]虚拟数字人是创建元宇宙虚拟世界的关键元素之一。根据数字人的业务需求不同，数字人可分为2维、3维、卡通、写实、超写实等。在实际场景中，需要针对虚拟数字人构建适配业务需求的基本虚拟形象。

技术实现思路

[0003]本公开提供了一种基于点云的渲染、模型训练、虚拟形象生成方法及装置。
[0004]根据本公开的一方面，提供了一种基于点云的渲染方法，包括：根据对象的三维点云信息，得到表征所述对象的第一属性特征的第一深度学习特征以及表征所述对象的第二属性特征的第二深度学习特征；对所述第一深度学习特征进行第一特征增强处理，得到第一渲染特征向量；对所述第二深度学习特征进行第二特征增强处理，得到第二渲染特征向量；以及根据所述第一渲染特征向量和所述第二渲染特征向量，得到所述对象的对象渲染信息。
[0005]根据本公开的另一方面，提供了一种深度学习模型的训练方法，包括：将样本对象的样本点云信息输入深度学习模型的第一神经网络，得到表征所述样本对象的第一属性特征的样本第一深度学习特征，其中，所述样本点云信息具有真实对象几何标签；将所述样本点云信息输入所述深度学习模型的第二神经网络，得到表征所述样本对象的第二属性特征的样本第二深度学习特征；将所述样本第一深度学习特征输入所述深度学习模型的第三神经网络，得到样本第一渲染特征向量；将所述样本第二深度学习特征输入所述深度学习模型的第四神经网络，得到样本第二渲染特征向量；将所述样本第一渲染特征向量和所述样本第二渲染特征向量输入所述深度学习模型的第五神经网络，得到样本对象渲染信息；根据所述样本对象渲染信息和所述真实对象几何标签，确定样本对象渲染结果；以及根据所述真实对象几何标签和所述样本对象渲染结果，对所述深度学习模型进行训练，得到经训练的深度学习模型。
[0006]根据本公开的另一方面，提供了一种基于点云的渲染方法，包括：根据待处理对象的待处理对象几何信息，确定待处理对象点云信息；将所述待处理对象点云信息输入深度学习模型，得到所述待处理对象渲染信息；以及根据所述待处理对象渲染信息，对所述待处理对象几何信息进行渲染，得到待处理对象渲染结果；其中，所述深度学习模型是利用根据本公开所述的深度学习模型的训练方法训练得到的。
[0007]根据本公开的另一方面，提供了一种虚拟形象生成方法，包括：根据目标对象的目标对象几何信息，确定目标对象点云信息；基于本公开所述的基于点云的渲染方法，对所述
目标对象点云信息进行处理，得到目标对象渲染信息；以及根据所述目标对象渲染信息，对所述目标对象几何信息进行渲染，生成所述目标对象的虚拟形象。
[0008]根据本公开的另一方面，提供了一种基于点云的渲染装置，包括：深度学习特征获得模块，用于根据对象的三维点云信息，得到表征所述对象的第一属性特征的第一深度学习特征以及表征所述对象的第二属性特征的第二深度学习特征；第一特征增强模块，用于对所述第一深度学习特征进行第一特征增强处理，得到第一渲染特征向量；第二特征增强模块，用于对所述第二深度学习特征，得到第二渲染特征向量进行第二特征增强处理；以及渲染信息获得模块，用于根据所述第一渲染特征向量和所述第二渲染特征向量，得到所述对象的对象渲染信息。
[0009]根据本公开的另一方面，提供了一种深度学习模型的训练装置，包括：第一网络模块，用于将样本对象的样本点云信息输入深度学习模型的第一神经网络，得到表征所述样本对象的第一属性特征的样本第一深度学习特征，其中，所述样本点云信息具有真实对象几何标签；第二网络模块，用于将所述样本点云信息输入所述深度学习模型的第二神经网络，得到表征所述样本对象的第二属性特征的样本第二深度学习特征；第三网络模块，用于将所述样本第一深度学习特征输入所述深度学习模型的第三神经网络，得到样本第一渲染特征向量；第四网络模块，用于将所述样本第二深度学习特征输入所述深度学习模型的第四神经网络，得到样本第二渲染特征向量；第五网络模块，用于将所述样本第一渲染特征向量和所述样本第二渲染特征向量输入所述深度学习模型的第五神经网络，得到样本对象渲染信息；渲染结果确定模块，用于根据所述样本对象渲染信息和所述真实对象几何标签，确定样本对象渲染结果；以及训练模块，用于根据所述真实对象几何标签和所述样本对象渲染结果，对所述深度学习模型进行训练，得到经训练的深度学习模型。
[0010]根据本公开的另一方面，提供了一种基于点云的渲染装置，包括：第一点云信息确定模块，用于根据待处理对象的待处理对象几何信息，确定待处理对象点云信息；深度学习模块，用于将所述待处理对象点云信息输入深度学习模型，得到所述待处理对象渲染信息；以及第二渲染模块，用于根据所述待处理对象渲染信息，对所述待处理对象几何信息进行渲染，得到待处理对象渲染结果；其中，所述深度学习模型是利用根据本公开所述的深度学习模型的训练装置训练得到的。
[0011]根据本公开的另一方面，提供了一种虚拟形象生成装置，包括：第二点云信息确定模块，用于根据目标对象的目标对象几何信息，确定目标对象点云信息；处理模块，用于基于本公开所述的基于点云的渲染装置，对所述目标对象点云信息进行处理，得到目标对象渲染信息；以及生成模块，用于根据所述目标对象渲染信息，对所述目标对象几何信息进行渲染，生成所述目标对象的虚拟形象。
[0012]根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开的基于点云的渲染方法、深度学习模型的训练方法以及虚拟形象生成方法其中至少一种方法。
[0013]根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行本公开的基于点云的渲染方法、深度学
习模型的训练方法以及虚拟形象生成方法其中至少一种方法。
[0014]根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序存储于可读存储介质和电子设备其中至少之一上，所述计算机程序在被处理器执行时实现本公开的基于点云的渲染方法、深度学习模型的训练方法以及虚拟形象生成方法其中至少一种方法。
[0015]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0016]附图用于更好地理解本方案，不构成对本公开的限定。其中：
[0017]图1示意性示出了根据本公开实施例的可以应用基于点云的渲染方法、深度学习模型的训练方法以及虚拟本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于点云的渲染方法，包括：根据对象的三维点云信息，得到表征所述对象的第一属性特征的第一深度学习特征以及表征所述对象的第二属性特征的第二深度学习特征；对所述第一深度学习特征进行第一特征增强处理，得到第一渲染特征向量；对所述第二深度学习特征进行第二特征增强处理，得到第二渲染特征向量；以及根据所述第一渲染特征向量和所述第二渲染特征向量，得到所述对象的对象渲染信息。2.根据权利要求1所述的方法，其中，所述三维点云信息包括如下中的至少之一：稀疏点云信息、稠密点云信息。3.根据权利要求1或2所述的方法，其中，所述第一属性特征包括漫反射特征，所述第二属性特征包括高光特征。4.根据权利要求1
‑
3中任一项所述的方法，其中，所述对所述第一深度学习特征进行第一特征增强处理，得到第一渲染特征向量包括：获取第一条件特征向量，所述第一条件特征向量表征第一三维点云在至少一个第一视角所表现出的特征，所述第一三维点云为所述三维点云信息所表征的点云；以及响应于以所述第一条件特征向量作为约束，对所述第一深度学习特征进行第一卷积处理，得到所述第一渲染特征向量。5.根据权利要求4所述的方法，其中，所述获取第一条件特征向量包括：获取对所述第一三维点云旋转至少一个第一角度之后得到的至少一个第一目标点云；以及对所述第一目标点云进行特征提取，得到所述第一条件特征向量。6.根据权利要求4或5所述的方法，其中，所述获取第一条件特征向量包括：根据第一预设三维直角坐标系和所述三维点云信息，确定所述第一三维点云在所述第一预设三维直角坐标系的X轴方向、Y轴方向和Z轴方向其中至少一个方向投影得到的第一图像；以及对所述第一图像进行特征提取，得到所述第一条件特征向量。7.根据权利要求1
‑
6中任一项所述的方法，其中，所述对所述第二深度学习特征进行第二特征增强处理，得到第二渲染特征向量包括：获取第二条件特征向量，所述第二条件特征向量表征第二三维点云在至少一个第二视角所表现出的特征，所述第二三维点云为所述三维点云信息所表征的点云；以及响应于以所述第二条件特征向量作为约束，对所述第二深度学习特征进行第二卷积处理，得到所述第二渲染特征向量。8.根据权利要求7所述的方法，其中，所述获取第二条件特征向量包括：获取对所述第二三维点云旋转至少一个第二角度之后得到的至少一个第二目标点云；以及对所述第二目标点云进行特征提取，得到所述第二条件特征向量。9.根据权利要求7或8所述的方法，其中，所述获取第二条件特征向量包括：根据第二预设三维直角坐标系和所述三维点云信息，确定所述第二三维点云在所述第二预设三维直角坐标系的X轴方向、Y轴方向和Z轴方向其中至少一个方向投影得到的第二
图像；以及对所述第二图像进行特征提取，得到所述第二条件特征向量。10.根据权利要求1
‑
9中任一项所述的方法，其中，所述根据所述第一渲染特征向量和所述第二渲染特征向量，得到所述对象的对象渲染信息包括：对所述第一渲染特征向量和所述第二渲染特征向量进行融合，得到融合特征向量；以及根据所述融合特征向量，确定所述对象渲染信息。11.根据权利要求1
‑
10中任一项所述的方法，还包括：获取所述对象的对象几何信息；以及根据所述对象渲染信息，对所述对象几何信息进行渲染，得到所述对象的对象渲染结果。12.一种深度学习模型的训练方法，包括：将样本对象的样本点云信息输入深度学习模型的第一神经网络，得到表征所述样本对象的第一属性特征的样本第一深度学习特征，其中，所述样本点云信息具有真实对象几何标签；将所述样本点云信息输入所述深度学习模型的第二神经网络，得到表征所述样本对象的第二属性特征的样本第二深度学习特征；将所述样本第一深度学习特征输入所述深度学习模型的第三神经网络，得到样本第一渲染特征向量；将所述样本第二深度学习特征输入所述深度学习模型的第四神经网络，得到样本第二渲染特征向量；将所述样本第一渲染特征向量和所述样本第二渲染特征向量输入所述深度学习模型的第五神经网络，得到样本对象渲染信息；根据所述样本对象渲染信息和所述真实对象几何标签，确定样本对象渲染结果；以及根据所述真实对象几何标签和所述样本对象渲染结果，对所述深度学习模型进行训练，得到经训练的深度学习模型。13.根据权利要求12所述的方法，还包括：在所述将样本对象的样本点云信息输入深度学习模型的第一神经网络，得到表征所述样本对象的第一属性特征的样本第一深度学习特征，以及所述将所述样本点云信息输入所述深度学习模型的第二神经网络，得到表征所述样本对象的第二属性特征的样本第二深度学习特征之前，获取所述样本对象的稀疏点云信息；对所述稀疏点云信息进行上采样，得到所述样本对象的稠密点云信息；以及根据所述稀疏点云信息、所述稠密点云信息其中至少之一，确定所述样本点云信息。14.一种基于点云的渲染方法，包括：根据待处理对象的待处理对象几何信息，确定待处理对象点云信息；将所述待处理对象点云信息输入深度学习模型，得到所述待处理对象渲染信息；以及根据所述待处理对象渲染信息，对所述待处理对象几何信息进行渲染，得到待处理对象渲染结果；其中，所述深度学习模型是利用根据权利要求12
‑
13中任一项所述的方法训练得到的。
15.一种虚拟形象生成方法，包括：根据目标对象的目标对象几何信息，确定目标对象点云信息；基于如权利要求1
‑
11或如权利要求14所述的方法，对所述目标对象点云信息进行处理，得到目标对象渲染信息；以及根据所述目标对象渲染信息，对所述目标对象几何信息进行渲染，生成所述目标对象的虚拟形象。16.一种基于点云的渲染装置，包括：深度学习特征获得模块，用于根据对象的三维点云信息，得到表征所述对象的第一属性特征的第一深度学习特征以及表征所述对象的第二属性特征的第二深度学习特征；第一特征增强模块，用于对所述第一深度学习特征进行第一特征增强处理，得到第一渲染特征向量；第二特征增强模块，用于对所述第二深度学习特征进行第二特征增强处理，得到第二渲染特征向量；以及渲染信息获得模块，用于根据所述第一渲染特征向量和所述第二渲染特征向量，得到所述对象的对象渲染信息。17.根据权利要求16所述的装置，其中，所述三维点云信息包括如下中的至少之一：...

【专利技术属性】
技术研发人员：李杰，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：