任务调度方法、装置及电子设备制造方法及图纸

技术编号:37856486 阅读:22 留言:0更新日期:2023-06-14 22:50
本公开提出一种任务调度方法、装置及电子设备,方法包括:根据目标任务对应的顺序标识将目标任务加入更新队列和目标模型对应的链表;根据目标任务对应的链表、顺序标识和目标模型的句柄维护红黑树,红黑树的节点表示处于空闲状态的模型的句柄,节点的键表示节点的对应模型对应的链表中第一任务的顺序标识;响应于根据红黑树确定目标任务为目标待更新任务,根据目标任务对应的动态参数,对目标模型进行参数更新,并更新红黑树;响应于确定目标任务为待执行任务,将目标任务从更新队列推入启动队列,并根据启动队列对应的任务执行顺序执行目标任务。提高了任务的调度效率,降低了调度方法的时间复杂度,从而提高了NPU的数据处理效率。效率。效率。

【技术实现步骤摘要】
任务调度方法、装置及电子设备


[0001]本公开涉及芯片
,尤其涉及一种任务调度方法、装置及电子设备。

技术介绍

[0002]NPU(Neural

network Processing Unit,嵌入式神经网络处理器),采用“数据驱动并行计算”的架构,特别擅长处理视频、图像类的海量多媒体数据。
[0003]目前在人工智能领域广泛使用的神经网络模型,主要基于NPU硬件来进行多媒体数据的处理。其中,神经网络模型长时间驻留在内存中,task(任务)是神经网络模型的一次执行,task会在模型运行时将task对应的一些动态参数比如输入地址和输出地址等更新到模型中,再调用NPU硬件来执行该task。而task的数量是非常多的,如何对task进行调度,从而提高task的调度效率,降低调度方法的时间复杂度,对于提高NPU的数据处理效率是非常重要的。

技术实现思路

[0004]本公开旨在至少在一定程度上解决相关技术中的技术问题之一。
[0005]本公开提出一种任务调度方法,以解决相关技术中的NPU的任务调本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种任务调度方法,其特征在于,包括:获取目标任务对应的动态参数、对应的顺序标识以及对应的目标模型的句柄;根据所述目标任务对应的顺序标识,按照预设顺序将所述目标任务加入更新队列和所述目标模型对应的链表;根据所述目标模型对应的链表、所述目标任务对应的顺序标识和所述目标模型的句柄,维护红黑树,其中所述红黑树的节点表示处于空闲状态的模型的句柄,所述红黑树的节点的键表示所述节点的对应模型对应的链表中第一任务的顺序标识;响应于根据所述红黑树确定所述目标任务为目标待更新任务,根据所述目标任务对应的动态参数,对所述目标模型进行参数更新,并更新所述红黑树;响应于根据所述目标任务在所述更新队列中的位置,确定所述目标任务为待执行任务,将所述目标任务从所述更新队列推入启动队列,并根据所述启动队列对应的任务执行顺序,执行所述目标任务。2.根据权利要求1所述的方法,其特征在于,所述根据所述目标模型对应的链表、所述目标任务对应的顺序标识和所述目标模型的句柄,维护红黑树,包括:在所述目标模型对应的链表仅包括所述目标任务的情况下,获取所述目标模型的工作状态;根据所述工作状态、所述目标任务对应的顺序标识和所述目标模型的句柄,维护红黑树。3.根据权利要求2所述的方法,其特征在于,所述根据所述工作状态、所述目标任务对应的顺序标识和所述目标模型的句柄,维护红黑树,包括:在所述目标模型的工作状态为空闲状态的情况下,将所述目标模型的句柄作为第一目标节点插入所述红黑树,其中将所述目标任务对应的顺序标识作为所述第一目标节点的键。4.根据权利要求3所述的方法,其特征在于,所述将所述目标模型的句柄作为第一目标节点插入所述红黑树,包括:按照任意节点的左叶子节点的键小于所述任意节点的键、所述任意节点的右叶子节点的键大于所述任意节点的键的排列顺序,将所述目标模型的句柄作为所述第一目标节点插入所述红黑树。5.根据权利要求4所述的方法,其特征在于,所述根据所述红黑树确定所述目标任务为目标待更新任务,包括:在所述目标模型对应的第一目标节点为所述红黑树中的最左叶子节点的情况下,确定所述目标任务为所述目标待更新任务。6.根据权利要求1

5中任一项所述的方法,其特征在于,所述更新所述红黑树,包括:将所述目标模型对应的第一目标节点从所述红黑树中删除。7.根据权利要求6所述的方法,其特征在于,所述方法还包括:响应于所述目标任务执行完毕,判断所述目标模型对应的链表是否为空;在所述目标模型对应的链表不为空的情况下,将所述目标模型的句柄作为第二目标节点插入所述红黑树,其中将所述目标模型对应的链表中第二任务对应的顺序标识作为所述第二目标节点的键。
8.根据权利要求1

5中任一项所述的方法,其特征在于,所述方法还包括:获取任务取消指令,所述任务取消指令中包括待取消的第三任务对应的顺序标识;根据所述第三任务对应的顺序标识,将所述第三任务的状态置为无效。9.一种任务调度装置,其特征在于,包括:任务获取模块,用于获取目标任务对应的动态参数、对应的顺序标识以及对应的目标模型的句柄;第一处理模块,用于根据所述目标任务对应的顺序标识,按照预设顺序将所述目标任务加入更新队列和所述目标模型对应的链表;维护模块,用于根据所述目标模型对应的链表、所述目标任务对应的顺序标识和所述目标模型的句柄,维护红...

【专利技术属性】
技术研发人员:杨阳
申请(专利权)人:爱芯元智半导体上海有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1