【技术实现步骤摘要】
一种对象处理方法、装置、存储介质及电子设备
[0001]本说明书涉及计算机
,尤其涉及一种对象处理方法、装置、存储介质及电子设备。
技术介绍
[0002]诸如元宇宙、数字孪生等虚拟场景在近年来得到了广泛的关注入,在元宇宙、数字孪生等场景下最为关键的进行虚拟对象的驱动,使得虚拟对象在诸如元宇宙等虚拟场景中可以如实体对象在真实物理世界中一样自然地运动和交流。
技术实现思路
[0003]本说明书提供了一种对象处理方法、装置、存储介质及电子设备,所述技术方案如下:
[0004]第一方面,本说明书提供了一种对象处理方法,所述方法包括:
[0005]获取针对实体对象的实体对象图像,从所述实体对象图像确定针对虚拟对象的多个关键点以及所述关键点的不确定性参数,所述虚拟对象为基于所述实体对象驱动的对象;
[0006]基于所述关键点的不确定性参数从所述多个关键点中确定多个基础关键点以及多个第一参考关键点,所述第一参考关键点的不确定性参数大于所述基础关键点的不确定性参数;
[0007]获取所述虚拟对象对应的虚拟对象图像,基于所述虚拟对象图像和所述实体对象图像对所述多个第一参考关键点进行区域搜索调整,得到针对所述多个第一参考关键点的多个第二参考关键点;
[0008]基于所述多个基础关键点和所述多个第二参考关键点对所述虚拟对象进行对象驱动处理。
[0009]第二方面,本说明书提供了一种对象处理装置,所述装置包括:
[0010]图像获取模块,用于获取针对实体对象的实体 ...
【技术保护点】
【技术特征摘要】
1.一种对象处理方法,所述方法包括:获取针对实体对象的实体对象图像,从所述实体对象图像确定针对虚拟对象的多个关键点以及所述关键点的不确定性参数,所述虚拟对象为基于所述实体对象驱动的对象;基于所述关键点的不确定性参数从所述多个关键点中确定多个基础关键点以及多个第一参考关键点,所述第一参考关键点的不确定性参数大于所述基础关键点的不确定性参数;获取所述虚拟对象对应的虚拟对象图像,基于所述虚拟对象图像和所述实体对象图像对所述多个第一参考关键点进行区域搜索调整,得到针对所述多个第一参考关键点的多个第二参考关键点;基于所述多个基础关键点和所述多个第二参考关键点对所述虚拟对象进行对象驱动处理。2.根据权利要求1所述的方法,所述从所述实体对象图像确定针对虚拟对象的多个关键点以及所述关键点的不确定性参数,包括:将所述实体对象图像输入至关键点预测模型进行关键点预测处理,以输出针对虚拟对象的多个关键点以及所述关键点的不确定性参数。3.根据权利要求2所述的方法,所述方法还包括:获取第一样本实体图像,确定所述第一样本实体图像的关键点标签以及不确定性参数标签,所述不确定性参数标签为基于所述关键点标签对所述第一样本实体图像扰动后得到的不确定性参数;采用所述第一样本实体图像对初始关键点预测模型进行至少一轮模型训练;在每轮模型训练过程中,输出针对所述第一样本实体图像的样本关键点以及所述样本关键点的样本不确定性参数,基于所述样本关键点、所述样本不确定性参数、所述关键点标签以及所述不确定性参数标签得到第一模型损失,基于所述第一模型损失对所述初始关键点预测模型进行模型参数调整,直至所述初始关键点预测模型满足模型结束训练条件,得到关键点预测模型。4.根据权利要求3所述的方法,所述基于所述样本关键点、所述样本不确定性参数、所述关键点标签以及所述不确定性参数标签得到第一模型损失,包括:基于所述样本关键点与所述关键点标签采用第一损失计算式确定关键点回归损失,基于所述样本不确定性参数与所述不确定性参数标签采用第二损失计算式确定不确定性预测损失;基于所述关键点回归损失和所述不确定性预测损失得到第一模型损失;所述第一损失计算式满足以下公式:所述
Losslandmark
为所述关键点回归损失,所述
ldpred
为所述样本关键点,所述ld
gt
为所述关键点标签;所述第二损失计算式满足以下公式:所述
Lossuncertainty
为所述不确定性预测损失,所述
upred
为所述样本不确定性参数,所述
ugt
为所述不确定性参数标签。5.根据权利要求1所述的方法,所述基于所述关键点的不确定性参数从所述多个关键点中确定多个基础关键点以及多个第一参考关键点,包括:获取关键点回归阈值;将所述不确定性参数大于所述关键点回归阈值的关键点作为第一参考关键点;将所述不确定性参数小于或等于所述关键点回归阈值的关键点作为基础关键点。6.根据权利要求1所述的方法,所述基于所述虚拟对象图像和所述实体对象图像对所述多个第一参考关键点进行区域搜索调整,得到针对所述多个第一参考关键点的多个第二参考关键点,包括:将所述虚拟对象图像、所述实体对象图像以及所述多个第一参考关键点输入至强化学习搜索模型;通过所述强化学习搜索模型的搜索动作控制在所述虚拟对象图像和所述实体对象图像中对不确定性区域进行至少一轮区域匹配搜索处理,得到所述虚拟对象图像中的目标关键点区域,并基于所述目标关键点区域的目标关键点对所述多个第一参考关键点进行关键点更新得到多个第二参考关键点,输出所述多个第二参考关键点。7.根据权利要求6所述的方法,所述通过所述强化学习搜索模型在所述虚拟对象图像和所述实体对象图像中对不确定性区域进行至少一轮区域匹配搜索处理得到所述虚拟对象图像中的目标关键点区域,包括:通过所述强化学习搜索模型在所述虚拟对象图像和所述实体对象图像中对不确定性区域进行至少一轮区域匹配搜索处理,得到每轮区域匹配搜索处理后的所述实体对象图像中的第一局部区域以及所述虚拟对象图像中的第二局部区域,所述不确定性区域与所述多个第一参考关键点对应的区域相关联;基于所述第一局部区域以及所述第二局部区域确定区域相似度,并将所述区域相似度作为每轮区域匹配搜索处理后的搜索奖励参数;基于各所述搜索奖励参数控制所述强化学习搜索模型停止所述搜索动作,基于当前的所述第一局部区域以及所述第二局部区域确定所述虚拟对象图像中的目标关键点区域。8.根据权利要求7所述的方法,所述基于各所述搜索奖励参数控制所述强化学习搜索模型停止所述搜索动作,包括:采用相似度最大化奖励函数基于各所述搜索奖励参数控制所述强化学习搜索模型停止所述搜索动作。9.根据权利要求7所述的方法,所述基于所述第一局部区域以及所述第二局部区域确定区域相似度,包括:将所述第一局部区域以及所述第二局部区域输入跨域表观相似度模型,输出区域相似度。10.根据权利要求9所述的方法,所述方法还包括:获取多组样本...
【专利技术属性】
技术研发人员:曹佳炯,
申请(专利权)人:支付宝杭州信息技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。