一种模型部署方法、装置、电子设备及存储介质制造方法及图纸

技术编号:42731882 阅读:32 留言:0更新日期:2024-09-13 12:17
本申请涉及自动驾驶模型部署领域,本申请公开了一种模型部署方法、装置、电子设备及存储介质,其方法包括:获取目标模型的推理流程,推理流程包括多个具有依赖关系的处理阶段;确定每个处理阶段对应的模型计算图,模型计算图包括一个或多个计算节点,一个或多个计算节点用于实现模型计算图对应的处理阶段对应的数据处理功能;根据依赖关系,确定多个处理阶段对应的模型计算图之间的连接关系;并基于连接关系,部署目标模型。通过本申请提供的模型部署方法,能够提升模型部署整体流程的计算效率,同时简化模型部署流程。

【技术实现步骤摘要】

本申请涉及自动驾驶模型部署领域,具体涉及一种模型部署方法、装置、电子设备及存储介质


技术介绍

1、随着深度学习和人工智能的技术发展,新能源汽车对自动驾驶功能的需求也在不断提升。目前深度学习已经接管了自动驾驶功感知、定位、规划、控制等主要分支领域,神经网络的设计、训练和部署贯穿了整个自动驾驶领域。由于汽车严格的成本把控,同时车载芯片的硬件资源受限,如何高效完成神经网络的部署成为了量产工作中重点。

2、自动驾驶模型部署主要是基于车载边缘端芯片进行的,往往需要采用一些特殊的技术和策略方法在有限的计算资源、存储空间和网络带宽等条件下,以满足设备既定功能为目标,实现高效的模型部署。基于此,如何实现更为高效的模型部署就成为了亟需解决的问题。


技术实现思路

1、本申请提供一种模型部署方法、装置、电子设备及存储介质,可以更加高效的实现自动驾驶的模型部署问题。本申请的技术方案如下:

2、根据本申请的第一方面,提供一种模型部署方法,包括:获取目标模型的推理流程,推理流程包括多个具有依赖关系的处理阶段;确本文档来自技高网...

【技术保护点】

1.一种模型部署方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,在确定每个处理阶段对应的模型计算图之前,所述方法还包括:

3.根据权利要求1所述的方法,其特征在于,所述方法还包括:

4.根据权利要求1-3任一项所述的方法,其特征在于,所述基于所述连接关系,部署所述目标模型,包括:

5.根据权利要求4所述的方法,其特征在于,所述方法还包括:

6.根据权利要求1-3任一项所述的方法,其特征在于,所述计算节点包括图像金字塔单元Pyramid、张量处理单元TPU、数字信号处理单元DSP、图像处理单元GPU、中...

【技术特征摘要】

1.一种模型部署方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,在确定每个处理阶段对应的模型计算图之前,所述方法还包括:

3.根据权利要求1所述的方法,其特征在于,所述方法还包括:

4.根据权利要求1-3任一项所述的方法,其特征在于,所述基于所述连接关系,部署所述目标模型,包括:

5.根据权利要求4所述的方法,其特征在于,所述方法还包括:

6.根据权利要求1-3任一项所述的方法,其特征在于,所述计算节点包括图像金字塔单元pyramid、张量处理单元tpu、...

【专利技术属性】
技术研发人员:万海鹏
申请(专利权)人:重庆长安科技有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1