多核任务调度器、多核任务调度方法、装置及相关产品制造方法及图纸

技术编号:23238763 阅读:22 留言:0更新日期:2020-02-04 18:16
本申请提供一种多核任务调度器、多核任务调度方法、装置及相关产品,所述多核任务调度器包括处理器核状态管理器、任务管理器和人工神经网络装置,其中:所述处理器核状态管理器用于接收处理器核发送的实时状态信息;所述任务管理器用于接收当前任务的任务信息并缓存所述任务信息;以及所述人工神经网络装置用于对来自所述处理器核状态管理器的实时状态信息、来自所述任务管理器的任务信息以及人工神经网络装置计算所需的参数进行计算,得出所述当前任务的调度信息。本申请针对芯片的任务管理机制效率低的问题,根据人工神经网络的计算来确定调度,能够不限于预先设定的规则和调度机制,且根据任务类型的不同调整调度过程,获得最佳的调度结果。

Multi core task scheduler, multi-core task scheduling method, device and related products

【技术实现步骤摘要】
多核任务调度器、多核任务调度方法、装置及相关产品
本申请涉及信息处理
,具体涉及一种多核任务调度器、多核任务调度方法、装置及相关产品。
技术介绍
集成电路规模的急速增长导致现代芯片架构向多核异构的方向发展,即一个芯片上往往集成了多种不同种类的处理器核,如常见的中央处理器(CentralProcessorUnit,CPU)、图形处理器(GraphicProcesserUnit,GPU)以及视频编解码处理器(VideoProcesserUnit,VPU)。如图1所示,这些处理器核通过片上通信总线互相连接,可进行处理器核与处理器核之间的直接通信,也可以通过共享的存储空间进行间接通信,多个处理器核能够通过通信协同进行数据处理完成大规模的计算任务。多核异构的芯片架构在很大程度上缓解了由晶体管密度增长带来的功耗墙和温度墙问题,但同时也增加了整个芯片的设计复杂度,如何为大规模计算任务提供高效的任务管理机制,使得计算任务能合理分配给各个处理器核成为了多核异构芯片设计的核心问题。目前主流的芯片设计中大多将任务管理机制的实现放在操作系统(OS,OperatingSystem)层级,由于操作系统的主要进程运行在CPU上,整个芯片的任务调度严重依赖CPU的执行效率。当CPU自身存在大量计算任务负载时,有限的计算资源只有少量能提供给任务调度进程,使得整个芯片的使用效率急剧降低。
技术实现思路
本申请实施例提供了一种多核任务调度器、多核任务调度方法、装置及相关产品,根据人工神经网络的计算来确定调度,能够不限于预先设定的调度机制,根据任务类型的不同能够自适应调整调度过程,获得最佳的调度结果。第一方面,提供一种多核任务调度器,其包括处理器核状态管理器、任务管理器和人工神经网络装置,其中:所述处理器核状态管理器用于接收处理器核发送的实时状态信息;所述任务管理器用于接收当前任务的任务信息并缓存所述任务信息;以及所述人工神经网络装置用于对来自所述处理器核状态管理器的实时状态信息、来自所述任务管理器的任务信息以及人工神经网络装置计算所需的参数进行计算,得出所述当前任务的调度信息。第二方面,本申请实施例提供了一种芯片,该芯片包括上述第一方面所述的多核任务调度器。第三方面,本申请实施例提供了一种板卡,该板卡包括上述第二方面所述的芯片。第四方面,本申请实施例提供了一种电子设备,该电子设备包括上述第三方面所述的板卡。第五方面,提供一种基于人工神经网络的片上多核任务调度方法,其包括:接收处理器核发送的实时状态信息;接收并缓存任务信息;以及基于所述实时状态信息、所述任务信息以及进行人工神经网络计算所需的参数进行人工神经网络计算,得出当前任务的调度信息。第六方面,提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现第五方面的方法。第七方面,提供一种计算机可读存储介质,其存储用于电子数据交换的计算机程序,其中,所述计算机程序使得计算机执行第五方面提供的方法。第八方面,提供一种计算机程序产品,所述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,所述计算机程序可操作来使计算机执行第五方面提供的方法。本申请实施例提供了一种多核任务调度器、多核任务调度方法、装置及相关产品,根据人工神经网络的计算来确定调度,能够不限于预先设定的规则和调度机制,且人工神经网络具有实时训练的功能,能够对当前的场景进行训练,适应当前的实时场景,即根据任务类型的不同能够自适应调整调度过程,获得最佳的调度结果。附图说明为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。图1为一种多核异构芯片的结构示意图。图2是根据本申请实施例的多核任务调度器的结构示意图。图3为一个实施例提供的一种板卡结构示意图。图4是根据本申请实施例的多核任务调度方法的流程图。图5是本申请实施例提供的一种电子设备的结构图。具体实施方式下面将结合本披露实施例中的附图,对本披露实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本披露一部分实施例,而不是全部的实施例。基于本披露中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本披露保护的范围。应当理解,本披露的权利要求、说明书及附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象,而不是用于描述特定顺序。本披露的说明书和权利要求书中使用的术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。还应当理解,在此本披露说明书中所使用的术语仅仅是出于描述特定实施例的目的,而并不意在限定本披露。如在本披露说明书和权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。还应当进一步理解,在本披露说明书和权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。如在本说明书和权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。在现有技术中,有芯片设计者将任务调度器作为一个硬件模块集成在芯片中,以实现高效的实时任务调度。一种多核异构芯片结构如图1所示,使用者通过片外总线向芯片传输程序与数据,并存储在芯片的存储器中,然后向调度器发射计算任务。调度器接收到计算任务信息后进行任务拆分,任务拆分基于用户对任务类型以及任务运行所需处理器核数量的定义,将单个多处理器核计算任务拆分为多个单处理器核计算任务。随后调度器将完成子任务的分发,根据当前的处理器核状态,将子任务分配给空闲的处理器核并将其标记为被占用,待子任务完成后释放相应的处理器核占用状态。然而,这类模块的设计都基于预先设定的一套固定机制,只能应对特定的任务类型,在处理其他任务类型时性能会有大幅下降。针对上述现有技术中的技术问题,本申请提出一种新的多核任务调度器。参阅图2,图2是根据本申请实施例的多核任务调度器的结构示意图。如图2所示,该多核任务调度器包括处理器核状态管理器、任务管理器和人工神经网络装置。其中:所述处理器核状态管理器用于接收处理器核发送的实时状态信息;所述任务管理器用于接收任务信息并缓存所述任务信息;以及所本文档来自技高网...

【技术保护点】
1.一种多核任务调度器,其特征在于,其包括处理器核状态管理器、任务管理器和人工神经网络装置,其中:/n所述处理器核状态管理器用于接收处理器核发送的实时状态信息;/n所述任务管理器用于接收当前任务的任务信息并缓存所述任务信息;以及/n所述人工神经网络装置用于对来自所述处理器核状态管理器的实时状态信息、来自所述任务管理器的任务信息以及人工神经网络装置计算所需的参数进行计算,得出所述当前任务的调度信息。/n

【技术特征摘要】
1.一种多核任务调度器,其特征在于,其包括处理器核状态管理器、任务管理器和人工神经网络装置,其中:
所述处理器核状态管理器用于接收处理器核发送的实时状态信息;
所述任务管理器用于接收当前任务的任务信息并缓存所述任务信息;以及
所述人工神经网络装置用于对来自所述处理器核状态管理器的实时状态信息、来自所述任务管理器的任务信息以及人工神经网络装置计算所需的参数进行计算,得出所述当前任务的调度信息。


2.根据权利要求1所述的多核任务调度器,其特征在于,所述人工神经网络装置包括多层神经元模块,所述多层神经元模块按照预设顺序连接形成有向无环结构,所述多层神经元模块包括输入层和输出层;
其中,每层所述神经元模块均包括至少一个神经元单元,所述多层神经元模块中的上一层神经元模块中的神经元单元能够连接至相邻的下一层神经元模块中的神经元单元;
所述输入层用于对接收的所述实时状态信息和所述任务信息进行处理后,将获得的中间处理结果传送至所述输入层之后的多层神经元模块进行计算,所述输出层得出所述当前任务的调度信息。


3.根据权利要求1或2所述的多核任务调度器,其特征在于,还包括:
网络配置器,用于存储所述人工神经网络装置计算所需的参数,所述人工神经网络装置计算所需的参数包括:神经元单元之间连接关系、权值、每个神经元单元所需的参数。


4.根据权利要求3所述的多核任务调度器,其特征在于,还包括:
计分板,用于保存历史任务的历史调度信息,并能够根据所述历史调度信息确定所述历史任务对应的调度操作的评分结果。


5.根据权利要求4所述的多核任务调度器,其特征在于,所述多核任务调度器的工作模式包括在线模式;当所述多核任务调度器处于在线模式时,所述计分板用于:
根据所述历史调度信息对所述历史任务的调度操作进行评分,获得所述历史任务对应的调度操作的评分结果。


6.根据权利要求5所述的多核任务调度器,其特征在于,所述计分板根据所述历史调度信息对所述历史任务的调度操作进行评分,获得所述历史任务的调度操作的评分结果包括:
从处理器核状态管理器中获取所述历史任务分配后的所述处理器核的实时状态信息;
根...

【专利技术属性】
技术研发人员:不公告发明人
申请(专利权)人:中科寒武纪科技股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1