场景模型的计算方法及装置、电子设备制造方法及图纸

技术编号:43294547 阅读:33 留言:0更新日期:2024-11-12 16:13
本申请涉及智慧家庭技术领域,公开一种场景模型的计算方法,包括:对待计算的场景模型的全尺寸模型进行压缩,获得场景模型所对应的压缩模型计算任务;获取家电设备的性能评分和压缩模型计算任务的复杂度评分,以根据家电设备的性能评分和压缩模型计算任务的复杂度评分将家电设备和压缩模型计算任务相匹配;确定与目标压缩模型计算任务相匹配的目标家电设备,以使目标家电设备执行目标压缩模型计算任务。该方法能够对大模型进行压缩并分配至家电设备进行计算。本申请还公开一种用于场景模型的计算装置及电子设备。

【技术实现步骤摘要】

本申请涉及智慧家庭,例如涉及一种场景模型的计算方法及装置、电子设备


技术介绍

1、目前,随着深度学习技术的发展,模型越来越大,但许多终端设备如智能手机、智能家电等由于功耗和算力的限制,并不能有效运行这些大模型。如何将训练好的大模型部署到算力受限的设备上并高效推理运算,是当前深度学习领域面临的重要挑战。

2、为了在终端设备运行大模型的需求,相关技术公开了一种基于云边端协同的深度学习模型训练和推理架构部署方法,基于云服务器、边缘服务器、物理终端,边缘服务器搭载训练模块、推理模块、态势感知中心;态势感知中心包括用于感知边缘服务器的计算资源、与边缘服务器间的带宽占用情况和物理距离计算的边缘服务器计算能力感知模块,以及用于感知边缘服务器与云服务器间的带宽占用情况、物理距离计算以及感知云服务器的计算资源的云服务器计算能力感知模块,训练模块和推理模块进行资源成本计算以决定架构部署。

3、在实现本公开实施例的过程中,发现相关技术中至少存在如下问题:

4、相关技术虽然能够通过边缘服务器和物理终端对模型进行训练,但是并没有对大模型进行调整本文档来自技高网...

【技术保护点】

1.一种场景模型的计算方法,其特征在于,包括:

2.根据权利要求1所述的场景模型的计算方法,其特征在于,对待计算的场景模型的全尺寸模型进行压缩,获得场景模型所对应的压缩模型计算任务,包括:

3.根据权利要求1所述的场景模型的计算方法,其特征在于,获取家电设备的性能评分,包括:

4.根据权利要求1所述的场景模型的计算方法,其特征在于,根据家电设备的性能评分和压缩模型计算任务的复杂度评分将家电设备和压缩模型计算任务相匹配,包括:

5.根据权利要求4所述的场景模型的计算方法,其特征在于,根据目标压缩模型计算任务的优先等级以及多个家电设备的数据处理...

【技术特征摘要】

1.一种场景模型的计算方法,其特征在于,包括:

2.根据权利要求1所述的场景模型的计算方法,其特征在于,对待计算的场景模型的全尺寸模型进行压缩,获得场景模型所对应的压缩模型计算任务,包括:

3.根据权利要求1所述的场景模型的计算方法,其特征在于,获取家电设备的性能评分,包括:

4.根据权利要求1所述的场景模型的计算方法,其特征在于,根据家电设备的性能评分和压缩模型计算任务的复杂度评分将家电设备和压缩模型计算任务相匹配,包括:

5.根据权利要求4所述的场景模型的计算方法,其特征在于,根据目标压缩模型计算任务的优先等级以及多个家电设备的数据处理稳定性等级,从多个家电设备中确定与目标压缩模型...

【专利技术属性】
技术研发人员:杜永杰田云龙牛丽窦方正
申请(专利权)人:青岛海尔科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1