数据处理方法及装置以及相关产品制造方法及图纸

本公开涉及一种数据处理方法及装置以及相关产品，所述产品包括控制模块，所述控制模块包括：指令缓存单元、指令处理单元和存储队列单元；所述指令缓存单元，用于存储所述人工神经网络运算关联的计算指令；所述指令处理单元，用于对所述计算指令解析得到多个运算指令；所述存储队列单元，用于存储指令队列，该指令队列包括：按该队列的前后顺序待执行的多个运算指令或计算指令。通过以上方法，本公开可以提高相关产品在进行神经网络模型的运算时的运算效率。的运算效率。的运算效率。

【技术实现步骤摘要】
数据处理方法及装置以及相关产品


[0001]本公开涉及计算机
，尤其涉及一种数据处理方法及装置以及相关产品。

技术介绍

[0002]随着神经网络的广泛应用，用于训练神经网络的数据越来越复杂，而且数据的维度和数量尺寸上均有逐渐增加的趋势。随着处理器性能的逐渐提升以及分布式运算结构的出现，需要一种数据处理方法来适配处理器的工作。

技术实现思路

[0003]有鉴于此，有必要针对上述技术问题，提供一种能够提高数据处理速度及效率的数据处理方法及装置以及相关产品。
[0004]根据本公开的一方面，提供了一种数据处理方法，应用于处理器，所述方法包括：根据与第一指令的操作数对应的第一数据块的形状以及预设的数据拆分信息，将所述第一数据块拆分为多个第一子数据块；对各第一子数据块进行处理，确定所述第一指令的处理结果，其中，所述第一指令为人工智能处理指令，所述第一数据块的形状包括所述第一数据块的维度以及各个维度的数据尺寸。
[0005]根据本公开的另一方面，提供了一种数据处理装置，应用于处理器，所述装置包括：第一拆分模块，用于根据与第一指令的操作数对应的第一数据块的形状以及预设的数据拆分信息，将所述第一数据块拆分为多个第一子数据块；第一处理模块，用于对各第一子数据块进行处理，确定所述第一指令的处理结果，其中，所述第一指令为人工智能处理指令，所述第一数据块的形状包括所述第一数据块的维度以及各个维度的数据尺寸。
[0006]根据本公开的另一方面，提供了一种人工智能芯片，所述芯片包括如上所述的数据处理装置。
[0007]根据本公开的另一方面，提供了一种电子设备，所述电子设备包括如上所述的人工智能芯片。
[0008]根据本公开的另一方面，提供了一种板卡，所述板卡包括：存储器件、接口装置和控制器件以及如上所述的人工智能芯片；其中，所述人工智能芯片与所述存储器件、所述控制器件以及所述接口装置分别连接；所述存储器件，用于存储数据；所述接口装置，用于实现所述人工智能芯片与外部设备之间的数据传输；所述控制器件，用于对所述人工智能芯片的状态进行监控。
[0009]根据本公开的实施例，能够将数据块拆分为多个子数据块，并通过多个处理单元对各子数据块分别进行处理，得到相应的处理结果，从而以更高效率利用计算单元，提高处理速度，为多核并行计算提供必要的基础。
[0010]根据下面参考附图对示例性实施例的详细说明，本公开的其它特征及方面将变得清楚。
附图说明
[0011]包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面，并且用于解释本公开的原理。
[0012]图1示出根据本公开实施例的数据处理方法的处理器的示意图。
[0013]图2示出根据本公开实施例的数据处理方法的流程图。
[0014]图3示出根据本公开实施例的数据块拆分的示意图。
[0015]图4示出根据本公开实施例的数据处理装置的框图。
[0016]图5示出根据本公开实施例的板卡的结构框图。
具体实施方式
[0017]下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。
[0018]应当理解，本公开的权利要求、说明书及附图中的术语“第一”、“第二”、和“第三”等是用于区别不同对象，而不是用于描述特定顺序。本公开的说明书和权利要求书中使用的术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
[0019]还应当理解，在此本公开说明书中所使用的术语仅仅是出于描述特定实施例的目的，而并不意在限定本公开。如在本公开说明书和权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。还应当进一步理解，在本公开说明书和权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
[0020]如在本说明书和权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
[0021]根据本公开实施例的数据处理方法可应用于处理器中，该处理器可以是通用处理器，例如CPU(Central Processing Unit，中央处理器)，也可以是用于执行人工智能运算的人工智能处理器(IPU)。人工智能运算可包括机器学习运算，类脑运算等。其中，机器学习运算包括神经网络运算、k-means运算、支持向量机运算等。该人工智能处理器可例如包括GPU(Graphics Processing Unit，图形处理单元)、NPU(Neural-Network Processing Unit，神经网络处理单元)、DSP(Digital Signal Process，数字信号处理单元)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)芯片中的一种或组合。本公开对处理器的具体类型不作限制。
[0022]在一种可能的实现方式中，本公开中所提及的处理器可包括多个处理单元，每个处理单元可以独立运行所分配到的各种任务，如：卷积运算任务、池化任务或全连接任务等。本公开对处理单元及处理单元所运行的任务不作限制。
[0023]图1示出根据本公开实施例的数据处理方法的处理器的示意图。如图1所示，处理
器100包括多个处理单元101以及存储单元102，多个处理单元101用于执行指令序列，存储单元102用于存储数据，可包括随机存储器(RAM，Random Access Memory)和寄存器堆。处理器100中的多个处理单元101既可共用部分存储空间，例如共用部分RAM存储空间和寄存器堆，又可同时拥有各自的存储空间。
[0024]图2示出根据本公开实施例的数据处理方法的流程图。如图2所示，该方法应用于处理器，该方法包括：
[0025]在步骤S11中：根据与第一指令的操作数对应的第一数据块的形状以及预设的数据拆分信息，将第一数据块拆分为多个第一子数据块。
[0026]在步骤S12中：对各第一子数据块进行处理，确定第一指令的处理结果，其中，所述第一指令为人工智能处理指令，第一数据块的形状包括第一数据块的维度以及各个维度的数据尺寸。
[0027]举例来说，在进行人工智能运算期间，可通过人工智能处理指令指示处理的类型、处理的对象等。处理器在接收到处理指令时，可本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法，其特征在于，所述方法应用于处理器，所述方法包括：根据与第一指令的操作数对应的第一数据块的形状以及预设的数据拆分信息，将所述第一数据块拆分为多个第一子数据块；对各第一子数据块进行处理，确定所述第一指令的处理结果，其中，所述第一指令为人工智能处理指令，所述第一数据块的形状包括所述第一数据块的维度以及各个维度的数据尺寸。2.根据权利要求1所述的方法，其特征在于，每个第一子数据块具有形状及位置信息，其中，第一子数据块的形状包括第一子数据块的维度以及各个维度的数据尺寸，第一子数据块的位置信息包括第一子数据块的至少一个数据点在所述第一数据块中的位置、第一子数据块的至少一个维度在所述第一数据块对应的维度中的位置中的至少一种。3.根据权利要求1或2所述的方法，其特征在于，对各第一子数据块进行处理，确定所述第一指令的处理结果，包括：分别对各第一子数据块进行处理，得到多个第二子数据块，所述处理结果包括所述多个第二子数据块。4.根据权利要求1或2所述的方法，其特征在于，对各第一子数据块进行处理，确定所述第一指令的处理结果，包括：分别对各第一子数据块进行处理，得到多个第二子数据块；根据各第一子数据块的形状及位置信息，对所述多个第二子数据块进行整合，得到第二数据块，所述处理结果包括所述第二数据块。5.根据权利要求3所述的方法，其特征在于，人工智能处理指令还包括待处理的第二指令，所述第二指令的操作数包括与所述多个第二子数据块对应的数据块，所述方法还包括：在所述多个第二子数据块不满足处理条件时，根据各第一子数据块的形状及位置信息，对所述多个第二子数据块进行整合，得到第三数据块；根据满足所述处理条件的分布方式，将所述第三数据块拆分为多个第三子数据块；...

【专利技术属性】
技术研发人员：ꢀ七四专利代理机构，
申请(专利权)人：中科寒武纪科技股份有限公司，
类型：发明
国别省市：