算法模型加载方法、装置、电子设备及存储介质制造方法及图纸

技术编号:39301362 阅读:7 留言:0更新日期:2023-11-12 15:52
本发明专利技术公开了一种算法模型加载方法、装置、电子设备及存储介质,涉及计算机技术,该方法包括:业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,模型加载指令包括目标算法名称;数据加载单元根据目标算法名称从数据存储单元中加载对应的目标算法模型至DRAM中,以使得业务控制单元对目标算法模型进行处理。在本发明专利技术中,业务控制单元与数据加载单元进行核间通信,通过数据加载单元从数据存储单元向DRAM中加载目标算法模型的方式,以使得目标模型在DRAM中被快速响应处理,DRAM中存储的算法模型为根据业务需求被加载完成的算法模型,相比于现有将海量模型加载至DRAM中进行运行的方式,取到了节省DRAM存储空间,提升模型处理速度的有益效果。模型处理速度的有益效果。模型处理速度的有益效果。

【技术实现步骤摘要】
算法模型加载方法、装置、电子设备及存储介质


[0001]本专利技术涉及计算机
,尤其涉及一种算法模型加载方法、装置、电子设备及存储介质。

技术介绍

[0002]随着业务场景(如自动驾驶场景)复杂性的增加,基于AI(Artificial Intelligence,人工智能)算法实现业务场景时包含的算法模型是海量的,如何对海量算法模型进行有序加载运行,是需要解决的重点问题。
[0003]现有对海量算法模型进行加载的方式为,会预先根据业务实现流程对海量算法模型的加载顺序进行配置,并在实际应用过程中,业务系统会控制模型加载单元根据预先配置的加载顺序将海量算法模型全部从模型储存单元加载到动态随机存取存储器(Dynamic Random Access Memory,简称DRAM)中。对于包含有判断逻辑的子业务而言,会将与判断逻辑相关联的所有算法模型均加载到DRAM,并在DRAM中根据实际判断结果选择目标算法模型。
[0004]上述按照固定配置顺序加载算法模型方式,会将不需要的算法模型加载到DRAM中,存在占用DRAM存储空间的问题;进一步地,当海量算法模型所用内存大于DRAM内存时,存在不能将所有算法模型加载至DRAM中,带来的部分算法模型无法运行的问题。

技术实现思路

[0005]本专利技术提供一种算法模型加载方法、装置、电子设备及存储介质,能够改善现有的对算法模型进行加载的方案。
[0006]第一方面,本专利技术提供一种算法模型加载方法,应用于算法模型加载系统,所述系统包括业务控制单元、数据加载单元和数据存储单元,所述业务控制单元与所述数据加载单元分别设置在不同的CPU内核中,所述方法包括:
[0007]所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,所述模型加载指令包括目标算法名称;
[0008]所述数据加载单元根据所述目标算法名称从所述数据存储单元中加载对应的目标算法模型至DRAM中,以使得所述业务控制单元对所述目标算法模型进行处理。
[0009]可选地,在所述DRAM中存储有模型加载链表,所述模型加载链表包括至少两个算法名称,每个算法名称根据业务实现逻辑顺序相关联;
[0010]所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,包括:
[0011]所述业务控制单元根据当前业务需求和所述模型加载链表确定目标算法名称;
[0012]所述业务控制单元根据所述目标算法名称生成模型加载指令,将所述模型加载指令发送至所述数据加载单元。
[0013]可选地,在所述模型加载链表中包含的至少两个算法名称对应的算法模型未被加载之前,所述方法还包括:
[0014]接收对所述模型加载链表中未被加载的算法名称间逻辑顺序的更新指令,所述更新指令包括修改指令、删除指令和添加指令中的至少一种。
[0015]可选地,所述算法模型加载系统还包括模型计算单元;
[0016]所述业务控制单元对所述目标算法模型进行处理,包括:
[0017]获取所述目标算法模型的模型类别;
[0018]在所述模型类别是判断类别时,则重复执行所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令的操作;
[0019]在所述模型类别不是判断类别时,则所述业务控制单元控制所述模型计算单元对所述目标算法模型进行计算,获得模型计算结果。
[0020]可选地,所述方法还包括:
[0021]在所述业务控制单元接收到所述数据加载单元发送的关于所述目标算法模型的加载完成标识后,执行所述业务控制单元控制所述模型计算单元对所述目标算法模型进行计算的操作。
[0022]可选地,所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,包括:
[0023]在车辆与车道停止线的间隔距离小于预设距离时,获取天气类型,所述天气类型包括晴天和雨天;
[0024]在所述天气类型为雨天时,所述业务控制单元向所述数据加载单元发送加载雨天信号灯模型的加载指令;
[0025]在所述天气类型为晴天时,所述业务控制单元向所述数据加载单元发送加载晴天信号灯模型的加载指令。
[0026]可选地,所述方法还包括:
[0027]所述业务控制单元根据所述模型加载链表获取每个算法名称之间的逻辑关系;
[0028]在多个所述算法名称之间的逻辑关系不包含判断类别时,所述业务控制单元向所述模型加载指令发送模型组加载指令,所述模型组加载指令包括至少两个算法名称;
[0029]所述数据加载单元根据至少两个算法名称从所述数据存储单元中加载对应的至少两个算法模型至DRAM中。
[0030]第二方面,本专利技术提供一种算法模型加载装置,集成于算法模型加载系统,所述系统包括业务控制单元、数据加载单元和数据存储单元,所述业务控制单元与所述数据加载单元分别设置在不同的CPU内核中,所述装置包括:
[0031]指令发送模块,用于所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,所述模型加载指令包括目标算法名称;
[0032]模型加载模块,用于所述数据加载单元根据所述目标算法名称从所述数据存储单元中加载对应的目标算法模型至DRAM中,以使得所述业务控制单元对所述目标算法模型进行处理。
[0033]第三方面,本专利技术还提供了一种电子设备,所述电子设备包括:
[0034]至少一个处理器;以及
[0035]与所述至少一个处理器通信连接的存储器;其中,
[0036]所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序
被所述至少一个处理器执行,以使所述至少一个处理器能够执行本专利技术任一实施例所述的算法模型加载方法。
[0037]第四方面,本专利技术还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的算法模型加载方法。
[0038]本专利技术实施例的算法模型加载方案,应用于算法模型加载系统,系统包括业务控制单元、数据加载单元和数据存储单元,业务控制单元与数据加载单元分别设置在不同的CPU内核中,具体地,业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,模型加载指令包括目标算法名称;数据加载单元根据目标算法名称从数据存储单元中加载对应的目标算法模型至DRAM中,以使得业务控制单元对目标算法模型进行处理。本实施例提供的方案,业务控制单元与数据加载单元进行核间通信,通过数据加载单元从数据存储单元向DRAM中加载目标算法模型的方式,以使得目标模型在DRAM中被快速响应处理,DRAM中存储的算法模型为根据业务需求被加载完成的算法模型,相比于现有将海量模型加载至DRAM中进行运行的方式,取到了节省DRAM存储空间,提升模型处理速度的有益效果。
[0039]应当理解,本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征,也不用于限制本专利技术的范围。本专利技术的其它特征将本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种算法模型加载方法,其特征在于,应用于算法模型加载系统,所述系统包括业务控制单元、数据加载单元和数据存储单元,所述业务控制单元与所述数据加载单元分别设置在不同的CPU内核中,所述方法包括:所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,所述模型加载指令包括目标算法名称;所述数据加载单元根据所述目标算法名称从所述数据存储单元中加载对应的目标算法模型至DRAM中,以使得所述业务控制单元对所述目标算法模型进行处理。2.根据权利要求1所述的算法模型加载方法,其特征在于,在所述DRAM中存储有模型加载链表,所述模型加载链表包括至少两个算法名称,每个算法名称根据业务实现逻辑顺序相关联;所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令,包括:所述业务控制单元根据当前业务需求和所述模型加载链表确定目标算法名称;所述业务控制单元根据所述目标算法名称生成模型加载指令,将所述模型加载指令发送至所述数据加载单元。3.根据权利要求2所述的算法模型加载方法,其特征在于,在所述模型加载链表中包含的至少两个算法名称对应的算法模型未被加载之前,所述方法还包括:接收对所述模型加载链表中未被加载的算法名称间逻辑顺序的更新指令,所述更新指令包括修改指令、删除指令和添加指令中的至少一种。4.根据权利要求1所述的算法模型加载方法,其特征在于,所述算法模型加载系统还包括模型计算单元;所述业务控制单元对所述目标算法模型进行处理,包括:获取所述目标算法模型的模型类别;在所述模型类别是判断类别时,则重复执行所述业务控制单元根据当前业务需求向数据加载单元发送模型加载指令的操作;在所述模型类别不是判断类别时,则所述业务控制单元控制所述模型计算单元对所述目标算法模型进行计算,获得模型计算结果。5.根据权利要求4所述的算法模型加载方法,其特征在于,所述方法还包括:在所述业务控制单元接收到所述数据加载单元发送的关于所述目标算法模型的加载完成标识后,执行所述业务控制单元控制所述模型计算单元对所述目标算法模型进行计算的操作。6.根据权...

【专利技术属性】
技术研发人员:陈长贵陈旭
申请(专利权)人:一汽南京科技开发有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1