算子调度方法、装置、电子设备和可读存储介质制造方法及图纸

技术编号:38748475 阅读:24 留言:0更新日期:2023-09-09 11:15
本申请实施例提供了一种算子调度方法、装置、电子设备和可读存储介质,涉及计算机技术领域。在本申请实施例中,可以根据调度序列中的调度算子与待调度算子之间的依赖关系确定就绪序列中的就绪算子,然后根据各就绪算子对应的存储资源大小从就绪序列中确定调度算子,进而实现更新调度序列和就绪序列,并根据更新后的调度序列确定网络模型中的各算子的目标调度顺序,从而实现有效减小网络模型在执行过程中的存储资源占用开销,进而减轻电子设备的运行压力。运行压力。运行压力。

【技术实现步骤摘要】
算子调度方法、装置、电子设备和可读存储介质


[0001]本申请涉及计算机
,特别是涉及一种算子调度方法、装置、电子设备和可读存储介质。

技术介绍

[0002]随着计算机技术的发展,网络模型被应用至各种场景之中,例如图像识别、语义分析等场景。
[0003]其中,网络模型中包括若干算子,每个算子中可以设置有相同或不同的算法,通过各个算子的组合,可以使得网络模型具有不同的功能。
[0004]在相关技术中,网络模型会被部署至电子设备中运行,因此,网络模型在运行过程中会占用电子设备的存储资源。当网络模型运行时占用的存储资源过大时,可能会由于电子设备存储资源的不足而导致网络模型数据处理效率低或处理失败的情况。因此,如何减小网络模型在执行过程中的存储资源占用开销是目前亟需解决的问题。

技术实现思路

[0005]有鉴于此,本申请实施例提供一种算子调度方法、装置、电子设备和可读存储介质,以减小网络模型在执行过程中的存储资源占用开销。
[0006]第一方面,提供了一种算子调度方法,所述方法包括:r/>[0007]获本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种算子调度方法,其特征在于,所述方法包括:获取算子序列图,所述算子序列图用于表征网络模型中各算子之间的依赖关系;根据就绪序列中各就绪算子对应的存储资源大小,从所述就绪序列中确定调度算子,更新调度序列和就绪序列,所述调度序列中包括所述算子序列图中的调度算子,所述就绪序列中包括所述算子序列图中的就绪算子,所述就绪算子根据所述调度序列中的调度算子与待调度算子之间的依赖关系确定;响应于更新后的就绪序列为空,根据更新后的调度序列确定所述网络模型中的各算子的目标调度顺序。2.根据权利要求1所述的方法,其特征在于,更新就绪序列包括:将确定的调度算子从所述就绪序列中删除;根据更新后的调度序列确定所述算子序列图中新的就绪算子;将所述新的就绪算子加入所述就绪序列,以更新所述就绪序列。3.根据权利要求2所述的方法,其特征在于,根据更新后的调度序列确定所述算子序列图中新的就绪算子包括:将前驱算子均为调度算子的待调度算子确定为就绪算子。4.根据权利要求1

3中任一项所述的方法,其特征在于,所述就绪算子对应的存储资源大小基于如下步骤确定:确定所述就绪算子的存储开销;确定所述就绪算子的活跃算子集合,所述活跃算子集合包括至少一个活跃算子,所述活跃算子用于表征后继算子中待调度算子的数量大于1的调度算子,或者,后继算子中待调度算子的数量等于1且后继算子不是所述就绪算子的调度算子;对所述就绪算子的存储开销和所述就绪算子的活跃算子集合的存储开销进行求和,确定所述就绪算子对应的存储资源大小。5.根据权利要求1

3中任一项所述的方法,其特征在于,根据就绪序列中各就绪算子对应的存储资源大小,从所述就绪序列中确定调度算子包括:将各所述就绪算子中最小存储资源对应的就绪算子确定为所述调度算子。6.根据权利要求4所述的方法,其特征在于,根据更新后的调度序列确定所述网络模型中的各...

【专利技术属性】
技术研发人员:何忠政刘雷谢启凯淡孝强
申请(专利权)人:北京希姆计算科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1