一种任务处理系统、方法及芯片技术方案

本发明专利技术实施例公开了一种任务处理系统、方法及芯片。其中，系统包括：主计算集群和辅助计算集群，主计算集群和辅助计算集群保持通信连接；主计算集群用于处理主芯片任务；主芯片任务包括主计算集群独立处理的任务；辅助计算集群用于处理辅助芯片任务；辅助芯片任务包括主计算集群联立处理的任务。本发明专利技术实施例的技术方案可以实现计算集群资源的高效利用，提高芯片系统性能。片系统性能。片系统性能。

【技术实现步骤摘要】
一种任务处理系统、方法及芯片


[0001]本专利技术实施例涉及芯片
，尤其涉及一种任务处理系统、方法及芯片。

技术介绍

[0002]芯片，又称微电路（microcircuit）、微芯片（microchip）、集成电路（integrated circuit，IC），是指内含集成电路的硅片，体积很小，常常是计算机或其他电子设备的一部分。人工智能芯片能够有效处理人工智能模型，是芯片领域的重点发展方向。
[0003]人工智能芯片中通常包含多个计算集群，各计算集群各自独立工作，但是也存在需要相互协作的场景。例如，在正向推断计算中，多个计算集群共享权重数据。如果多个集群同时访问一份权重数据，则芯片需要按照获取权重数据的计算集群的数量为每个计算集群均复制一份权重数据，以供各计算集群使用计算。在反向梯度计算中，如果每个计算集群都计算生成一份梯度数据，那么需要在整个芯片范围内将所有的梯度数据规约成一份。
[0004]专利技术人在实现本专利技术的过程中，发现现有技术存在如下缺陷：如果计算集群参与处理权重复制和梯度合并等相互协作的计算场景，需要推迟后续的数据搬运和计算等芯片处理任务，导致整个芯片的计算时间变长，性能变差。

技术实现思路

[0005]本专利技术实施例提供一种任务处理系统、方法及芯片，以实现计算集群资源的高效利用，提高芯片系统性能。
[0006]第一方面，本专利技术实施例提供了一种任务处理系统，配置于芯片，包括主计算集群和辅助计算集群，所述主计算集群和所述辅助计算集群保持通信连接；其中：所述主计算集群用于处理主芯片任务；所述主芯片任务包括主计算集群独立处理的任务；所述辅助计算集群用于处理辅助芯片任务；所述辅助芯片任务包括主计算集群联立处理的任务。
[0007]第二方面，一种任务处理方法，应用于芯片，包括：通过芯片内的主计算集群处理主芯片任务；通过所述芯片内的辅助计算集群处理辅助芯片任务。
[0008]第三方面，本专利技术实施例还提供了一种芯片，其特征在于，所述芯片包括本专利技术任意实施例所提供的所述任务处理系统。
[0009]本专利技术实施例通过在芯片中配置保持通信连接的主计算集群和辅助计算集群，通过主计算集群处理包括主计算集群独立处理任务的主芯片任务，通过辅助计算集群处理包括主计算集群联立处理任务的辅助芯片任务，解决现有芯片在计算集群相互协作的场景中，主芯片任务被推迟导致的计算时间变长、性能变差的技术问题，实现计算集群资源的高效利用，提高芯片系统性能。
附图说明
[0010]图1为本专利技术实施例一提供的一种任务处理系统的示意图。
[0011]图2为现有技术中的一种任务处理系统的架构示意图。
[0012]图3为现有技术中的任务处理系统的工作流程示意图。
[0013]图4为本专利技术实施例一提供的一种任务处理系统的架构示意图。
[0014]图5为本专利技术实施例一提供的一种任务处理系统的工作流程示意图。
[0015]图6为本专利技术实施例一提供的一种辅助计算集群的示意图。
[0016]图7为本专利技术实施例二提供的一种任务处理方法的流程图。
[0017]图8为本专利技术实施例三提供的一种芯片的示意图。
具体实施方式
[0018]下面结合附图和实施例对本专利技术作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本专利技术，而非对本专利技术的限定。
[0019]另外还需要说明的是，为了便于描述，附图中仅示出了与本专利技术相关的部分而非全部内容。在更加详细地讨论示例性实施例之前应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作（或步骤）描述成顺序的处理，但是其中的许多操作可以被并行地、并发地或者同时实施。此外，各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止，但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。
[0020]本专利技术实施例的说明书和权利要求书及附图中的术语“第一”和“第二”等是用于区别不同的对象，而不是用于描述特定的顺序。此外术语“包括”和“具有”以及他们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有设定于已列出的步骤或单元，而是可包括没有列出的步骤或单元。
[0021]实施例一图1是本专利技术实施例一提供的一种任务处理系统的示意图，该任务处理系统可以配置于芯片，可选的，该芯片可以是人工智能芯片，其结构包括：主计算集群110和辅助计算集群120，主计算集群110和辅助计算集群120保持通信连接。
[0022]其中，主计算集群110用于处理主芯片任务；所述主芯片任务包括主计算集群110独立处理的任务；辅助计算集群120用于处理辅助芯片任务；所述辅助芯片任务包括主计算集群110联立处理的任务。
[0023]具体的，芯片中配置的主计算集群110的数量通常可以是多个，其具体数量可以根据芯片需要处理的主芯片任务量以及对芯片的性能要求确定。主计算集群110配置于芯片中，可以与芯片的片内总线连接，以与外部进行通信连接。
[0024]各主计算集群110可以包括一个或多个计算核心，以使其具有处理计算任务的功能，从而可以用于处理主芯片任务。主芯片任务所包括的主计算集群110独立处理的任务，包括可以通过若干主计算集群110彼此独立完成的任务。主计算集群110在处理主芯片任务的过程中，各主计算集群110之间无需进行通信，任意主计算集群110处理主芯片任务的过程不会受其他主计算集群110的影响，可以并行进行。
[0025]相应的，任意芯片中配置的辅助计算集群120的数量可以是一个或多个，可以根据
芯片需要处理的辅助芯片任务量以及对芯片的性能要求确定。辅助计算集群120配置于芯片中，同样可以与芯片的片内总线连接，以与外部进行通信连接，则通过片内总线可以实现主计算集群110与辅助计算集群120之间的通信连接。
[0026]辅助计算集群120同样具有处理计算任务的功能，可以用于处理辅助芯片任务。辅助芯片任务所包括的主计算集群110联立处理的任务，可以包括与至少两个主计算集群110中的数据相关联的任务。可选的，主计算集群110联立处理的任务可以是单个芯片内多个主计算集群110联立处理的任务，也可以是不同芯片间多个主计算集群110联立处理的任务，本专利技术实施例对此并不进行限制。辅助计算集群120可以通过与主计算集群110之间的通信，完成辅助芯片任务中需要与主计算集群110进行数据交互的部分，并独立处理剩余计算任务，则该部分辅助芯片任务不占用主计算集群110的资源，其与主芯片任务之间处理过程互不影响，可以并行处理。
[0027]相应的，图2为现有技术中的一种任务处理系统的架构示意图，其中，任务处理系统也即芯片内部系统。在现有技术中，如图2所示，每个芯片配置有多个计算集群1~N，同时还可以配置有多个存储模块1~M，以及芯片互联模块，其通过片内总线连接成一个系统。相应的，图3本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种任务处理系统，其特征在于，配置于芯片，包括主计算集群和辅助计算集群，所述主计算集群和所述辅助计算集群保持通信连接；其中：所述主计算集群用于处理主芯片任务；所述主芯片任务包括主计算集群独立处理的任务；所述辅助计算集群用于处理辅助芯片任务；所述辅助芯片任务包括主计算集群联立处理的任务；其中，所述主计算集群联立处理的任务为与至少两个所述主计算集群中的数据相关联的任务；所述辅助计算集群，还用于：在确定所述主计算集群满足任务并行处理条件的情况下，与所述主计算集群按照集群优先级并行处理所述主芯片任务；在确定所述主计算集群不满足任务并行处理条件的情况下，与所述主计算集群串行处理提前调度主芯片任务。2.根据权利要求1所述的系统，其特征在于，所述辅助芯片任务包括目标数据复制任务；所述辅助计算集群具体用于：确定存储目标数据的目标存储模块；读取所述目标存储模块以获取所述目标数据；将所述目标数据依次写入目标主计算集群。3.根据权利要求1所述的系统，其特征在于，所述辅助芯片任务包括目标数据规约任务；所述辅助计算集群具体用于：确定存储目标数据的目标主计算集群；读取各所述目标主计算集群，以获取各所述目标主计算集群存储的目标数据；对各所述目标数据按照数据规约处理策略进行数据规约处理。4.根据权利要求1所述的系统，其特征在于，所述辅助芯片任务包括目标数据规约任务；所述主计算集群具体用于：确定存储目标数据的关联主计算集群；联立各所述关联主计算集群，将各所述目标数据按照约定数据发送顺序依次发送至所述辅助计算集群；所述辅助计算集群具体用于：接收各所述目标数据；对各所述目标数据按照数据规约处理策略进行数据规约处理。5.根据权利要求1所述的系统，其特征在于，所述辅助计算集群还用于：在确定不存在所述辅助芯片任务的情况下，与所述主计算集群并行处理所...

【专利技术属性】
技术研发人员：刘伟，刘彦，
申请(专利权)人：上海燧原科技有限公司，
类型：发明
国别省市：