适用于智能处理器的任务处理系统与其任务处理方法技术方案

技术编号:36428706 阅读:10 留言:0更新日期:2023-01-20 22:39
本申请公开了一种适用于智能处理器的任务处理系统与任务处理方法,任务处理系统包括智能处理器以及指令处理器。指令处理器接收源自主处理器的任务,并响应任务启动该智能处理器。该第一智能处理器根据任务自多个固件代码中选取一对应固件代码,并重新启动该指令处理器以使该指令处理器运行该对应固件代码,并与指令处理器协同运作完成第一任务。如此,能够降低任务处理时间,从而改善任务系统的运行效率。率。率。

【技术实现步骤摘要】
适用于智能处理器的任务处理系统与其任务处理方法


[0001]本申请涉及智能处理器的任务调度技术,尤其是适用于智能处理器的任务处理系统与其任务处理方法。

技术介绍

[0002]在现有的处理系统中,智能处理器与系统中的主要处理器之间的任务调度模式属于串行模式。例如,主要处理器会使用其内核线程(kernel thread)来指派待执行的多个任务,并通知智能处理器执行该些任务中的一个任务。在智能处理器执行完一个任务后,需回报该内核线程该任务的执行结果。在收到该执行结果后,内核线程再指派下一个任务给智能处理器执行。在上述的调度模式中,若主要处理器的工作负载变重而使得内核线程的响应速度变慢时,将使得智能处理器的任务调度出现延迟,而使得整体运作时间明显变长。

技术实现思路

[0003]在一些实施例中,本案的目的之一在于提供一种任务处理系统与任务处理方法,其可改善先前技术的不足。
[0004]在一些实施例中,任务处理系统包括第一智能处理器;以及第一指令处理器,用于接收来自主处理器的第一任务,并响应第一任务启动第一智能处理器,其中,第一智能处理器根据第一任务从多个固件代码中选取对应固件代码,并重新启动第一指令处理器以使第一指令处理器运行对应固件代码,以及与第一指令处理器协同运作完成第一任务。
[0005]在一些实施例中,任务处理方法包括下列操作:通过指令处理器响应来自主处理器的任务启动智能处理器;通过智能处理器根据任务从多个固件代码中选取对应固件代码,并重新启动指令处理器以使指令处理器运行对应固件代码;以及通过智能处理器与指令处理器协同运作以完成任务。
[0006]本申请实施提供的方案,通过降低对主处理器的依赖,进而降低主处理器的负载量,从而获得低延迟的处理时间,进而使得整体运作时间缩短,提高了处理效率。
附图说明
[0007]有关本案的特征、实作与功效,兹配合图式作较佳实施例详细说明如下。
[0008]图1为根据本案一些实施例绘制一种任务处理系统的示意图;
[0009]图2A为根据本案一些实施例绘制图1的指令处理器之示意图;
[0010]图2B为根据本案一些实施例绘制图2A的任务队列之数据示意图;
[0011]图3A为根据本案一些实施例绘制的图1的主处理器、智能处理器以及指令处理器之间的运作时序示意图;
[0012]图3B为根据本案一些实施例绘制图1的主处理器以及多个指令处理器之间的运作时序示意图;以及
[0013]图4为根据本案一些实施例绘制的一种任务处理方法的流程图。
具体实施方式
[0014]本文所使用的所有词汇具有其通常的意涵。上述之词汇在普遍常用之字典中之定义,在本案的内容中包括任一于此讨论的词汇之使用例子仅为示例,不应限制到本案之范围与意涵。同样地,本案亦不仅以于此说明书所示出的各种实施例为限。
[0015]关于本文中所使用之『耦接』或『连接』,均可指二或多个元件相互直接作实体或电性接触,或是相互间接作实体或电性接触,亦可指二或多个元件相互操作或动作。如本文所用,用语『电路』可为由至少一个晶体管与/或至少一个主被动元件按一定方式连接以处理信号的装置。
[0016]图1为根据本案一些实施例绘制一种任务处理系统100的示意图。于一些实施例中,任务处理系统100包括主处理器110、存储器120、指令处理器130、指令处理器135、智能处理器(intelligence processing unit,IPU)140以及智能处理器145。上述的多个硬件元件可经由一或多个总线或数据线相互耦接。
[0017]主处理器110为任务处理系统100中的主要处理器,其具有相对较高的运算能力(相较于指令处理器130与/或指令处理器135)。例如,主处理器110可运行任务处理系统100上的操作系统(例如为,但不限于,Linux)。
[0018]在一些实施例中,存储器120可为,但不限于,动态随机存取存储器。存储器120储存有多个固件代码D1~DM,智能处理器140可根据要执行的任务(task)从多个固件代码D1~DM中选出一对应固件代码(后文简称为固件代码Di),并将此固件代码Di传输给指令处理器130,以使指令处理器130运行固件代码Di。如此,指令处理器130可运行一特定固件代码(即固件代码Di所对应的固件代码)以与智能处理器140协同运作来完成所要执行的任务。
[0019]举例而言,待执行的任务为使用一特定神经网络模型来执行的运算,其所使用的部分数据的数据格式较适合使用指令处理器130(相较于使用智能处理器140)进行运算。通过解析描述该特定神经网络模型的相关数据,主处理器110可确认该特定神经网络模型与多个固件代码D1~DM中之至少一者的对应关系,并根据此对应关系确认适合该任务使用的固件代码Di。主处理器110可将上述的相关信息一并传输到指令处理器130的任务队列(如图2B中的任务队列TQ)中。如此一来,基于指令处理器130的触发,智能处理器140可根据上述的相关信息来从多个固件代码D1~DM中选出固件代码Di。智能处理器140可将固件代码Di传输给指令处理器130,并重新启动指令处理器130来使得指令处理器130运行固件代码Di。具体地,智能处理器140从存储器120中获取固件代码Di,并将所获取到的固件代码Di传输给指令处理器130。上述的操作同样适用于指令处理器135以及智能处理器145,故于此不再重复赘述。
[0020]在一些实施例中,指令处理器130与指令处理器135中每一者可为精简指令集处理器。在一些实施例中,指令处理器130与指令处理器135中每一者可为基于开源指令集架构(open standard instruction set architecture)的处理器。例如,指令处理器130与指令处理器135中每一者可为,但不限于,第五代精简指令集处理器(RISC

V)。指令处理器130与指令处理器135中每一者具有相对较低的运算能力(相较于主处理器110)。例如,指令处理器130与指令处理器135并不会执行任务处理系统100的操作系统,且其工作主要是从主处理器110接收指派给智能处理器140与/或智能处理器145进行处理的任务,进而执行智能处理器140与/或智能处理器145的任务调度。
[0021]智能处理器140与/或智能处理器145中每一者是用来执行一人工智能技术的专用处理器,其可用来处理神经网络(例如包括,但不限于,卷积神经网络)的相关应用与/或运算。如前所述,指令处理器130用来处理智能处理器140的任务调度,且指令处理器135用来处理智能处理器145的任务调度。换言之,指令处理器130是对应于智能处理器140设置,且指令处理器135是对应于智能处理器145设置。在本申请的实施例中,一指令处理器与一智能处理器一一对应。关于任务调度的详细操作将于后参照图3A说明。
[0022]在一些实施例中,多个智能处理器140与145中每一者可为多核智能处理器中的本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种任务处理系统,包括:第一智能处理器;以及第一指令处理器,用于接收来自主处理器的第一任务,并响应所述第一任务启动所述第一智能处理器,其中,所述第一智能处理器根据所述第一任务从多个固件代码中选取对应固件代码,并重新启动所述第一指令处理器以使所述第一指令处理器运行所述对应固件代码,以及与所述第一指令处理器协同运作完成所述第一任务。2.如权利要求1所述的任务处理系统,其特征在于,所述第一指令处理器包括:运算电路,用于根据所述第一任务启动所述第一智能处理器,并运行所述对应固件代码以与所述第一智能处理器协同运作来执行所述第一任务;以及紧密耦合存储器电路;其中,所述第一智能处理器将所述对应固件代码储存于所述紧密耦合存储器电路中。3.如权利要求1所述的任务处理系统,其特征在于,所述第一任务的信息包括所述第一智能处理器的指令在存储器的储存地址及所述对应固件代码在所述存储器的储存地址。4.如权利要求1所述的任务处理系统,其特征在于,所述第一指令处理器包括紧密耦合存储器电路,所述主处理器用于将所述第一任务的信息储存于所述紧密耦合存储器电路中。5.如权利要求1所述的任务处理系统,其特征在于,所述第一智能处理器在所述任务处理系统上电后通过所述主处理器直接启动以执行首次任务,且在所述首次任务执行之后,所述第一智能处理器通过所述第一指令处理器重新启动。6.如权利要求1所述的任务处理系统,其特征在于,所述第一智能处理器执行所述第一任务后,所述第一智能处理器进入休眠模式直到通过所述第一指令处理器重新启动。7.如权利要求1所述的任务处理系统,其特征在于,所述第一指令处理器启动所述第一智能处理器时未占用所述主处理器的内核线程。8.如权利要...

【专利技术属性】
技术研发人员:杨波
申请(专利权)人:星宸微电子深圳有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1