一种AI处理器、电子部件及电子设备制造技术

本申请提供一种AI处理器、电子部件及电子设备，AI处理器包括：任务切分电路，用于将接收到的任务分别切分为多个子任务；子任务调度模块，用于将所述子任务分配给对应的硬件执行单元；所述硬件执行单元，用于执行所分配的所述子任务。本申请通过在AI处理器中设置用于对任务进行切分的任务切分电路和用于对任务进行调度的子任务调度模块，从而可以将对任务的切分以及调度工作从软件程序上转移至AI处理器的硬件电路中，从而不再需要引入巨大的软件开销，使得宿主机处理器可以将更多资源投入到与AI处理器需配合的其他事项上，从而可以更充分地发挥AI处理器的处理能力。地发挥AI处理器的处理能力。地发挥AI处理器的处理能力。

【技术实现步骤摘要】
一种AI处理器、电子部件及电子设备


[0001]本申请涉及处理器
，具体而言，涉及一种AI处理器、电子部件及电子设备。

技术介绍

[0002]AI（Artificial Intelligence，人工智能）处理器通常包含多个不同的硬件执行单元以完成不同的指令。硬件执行单元包括处理卷积任务的乘累加单元、处理向量任务的向量单元、数据载入单元、数据存储单元等等。然而，很多情况下计算任务并不会用到所有的硬件执行单元。例如，大多数情况下，处理任务时，同一时刻仅会使用乘累加单元和向量处理单元中的一个。为了不让硬件资源空闲，需要AI处理器具备任务级并行的能力，比如在执行一个矩阵乘任务的同时，执行另外的向量处理任务。
[0003]目前，常见的任务级并行实现方式是，通过AI处理器所在宿主机的软件将任务切分成子任务，然后由软件调度不同的子任务给AI处理器，以充分利用AI处理器的硬件资源。硬件执行单元执行完成以后，软件再进行子任务之间的同步。这种实现方式的缺点是引入巨大的软件开销，对宿主机的处理能力提出很高的要求，导致系统的性能短板出现在宿主机的处理器本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种AI处理器，其特征在于，包括：多个硬件执行单元；任务切分电路，用于将接收到的任务分别切分为多个子任务；子任务调度模块，用于将所述子任务分配给所述多个硬件执行单元中与该子任务匹配的硬件执行单元，以使匹配的所述硬件执行单元执行被分配的所述子任务。2.如权利要求1所述的AI处理器，其特征在于，所述子任务调度模块包括：子任务调度器，用于获取一个或多个所述子任务，并保存所述子任务的任务信息；指令读取译码单元，用于根据所述任务信息获取所述子任务对应的待处理指令并进行译码，根据译码结果将所述子任务对应的待处理指令分配给所述待处理指令对应的硬件执行单元；所述硬件执行单元用于执行被分配的待处理指令。3.如权利要求2所述的AI处理器，其特征在于，所述AI处理器还包括：指令队列；所述指令队列设置于所述指令读取译码单元与所述硬件执行单元之间，且每一个所述指令队列对应有一个所述硬件执行单元；所述指令读取译码单元，具体用于将所述子任务对应的待处理指令，分配至目标硬件执行单元对应的指令队列中进行存储；所述目标硬件执行单元为所述待处理指令对应的硬件执行单元；所述目标硬件执行单元，具体用于从自身所对应的指令队列中获取待处理指令并执行。4.如权利要求3所述的AI处理器，其特征在于，每一个所述硬件执行单元对应多个所述指令队列，且每一个所述硬件执行单元对应的多个所述指令队列，分别用于存放不同任务的待处理指令。5.如权利要求4所述的AI处理器，其特征在于，所述AI处理器还包括：指令调度器，设置于所述硬件执行单元与该硬件执行单元对应的多个所述指令队列之间，用于在所述硬件执行单元空闲时，从该...

【专利技术属性】
技术研发人员：何浩，王平，
申请(专利权)人：上海登临科技有限公司，
类型：发明
国别省市：