数据处理方法、数据处理装置以及电子设备制造方法及图纸

本申请提出一种数据处理方法、数据处理装置以及电子设备；其中，数据处理方法包含：获取矩阵运算数据集；将该矩阵运算数据集发送至该嵌入式神经网络处理器的总存储器；对该矩阵运算数据集进行变换并得到变换后的相应的矩阵运算数据集；将该变换后的相应的矩阵运算数据集从该嵌入式神经网络处理器中的该总存储器发送至该至少一个神经网络处理单元中的本地存储器；调用该至少一个神经网络处理单元中的该本地存储器中的该变换后的相应的矩阵运算数据集进行运算；以及输出运算结果。

Data Processing Method, Data Processing Device and Electronic Equipment

In this application, a data processing method, a data processing device and an electronic device are proposed. The data processing method includes: acquiring the matrix operation data set; sending the matrix operation data set to the total memory of the embedded neural network processor; transforming the matrix operation data set and obtaining the corresponding matrix operation data set after transformation; and transforming the transformed phase. The corresponding matrix operation data set is sent from the total memory in the embedded neural network processor to the local memory in the at least one neural network processing unit; the corresponding matrix operation data set transformed from the local memory in the at least one neural network processing unit is invoked for operation; and the operation results are output.

【技术实现步骤摘要】
数据处理方法、数据处理装置以及电子设备
本申请涉及数据处理领域，具体而言，涉及一种数据处理方法、数据处理装置以及电子设备。
技术介绍
在现有的对嵌入式神经网络处理器中的矩阵数据进行存储和搬运的过程中，将嵌入式神经网络处理器的总存储器中的数据分配至每个嵌入式神经网络处理单元的本地存储器后，所有矩阵数据集在各个本地存储器中的存储方式都为对齐式存储方式，这样的存储方式极大的浪费了存储空间。
技术实现思路
本申请实施例提出一种数据处理方法、数据处理装置以及电子设备，用以解决现有技术中嵌入式神经网络处理器对于数据存储空间浪费的问题。根据本申请的一方面，提出一种数据处理方法、数据处理装置以及电子设备。其中，该数据处理方法应用于嵌入式神经网络处理器，该嵌入式神经网络处理器包含至少一个神经网络处理单元，其特征在于，该数据处理方法包括：获取矩阵运算数据集；将该矩阵运算数据集发送至该嵌入式神经网络处理器的总存储器；对该矩阵运算数据集进行变换并得到变换后的相应的矩阵运算数据集；将该变换后的相应的矩阵运算数据集从该嵌入式神经网络处理器中的该总存储器发送至所该至少一个神经网络处理单元中的本地存储器；调用该至少一个神经网络处理单元中的该本地存储器中的该变换后的相应的矩阵运算数据集进行运算；以及输出运算结果。在一些实施例中，该矩阵运算数据集包括第一矩阵运算数据子集与第二矩阵运算数据子集，其中，对该矩阵运算数据集进行变换并得到变换后的相应的矩阵运算数据，包括：对该第一矩阵运算数据子集与该第二矩阵运算数据子集分别进行维度变换，得到第一高维矩阵运算数据子集与第二高维矩阵运算数据子集。在一些实施例中，该第一高维矩阵运算数据子集与该第二高维矩阵运算数据子集的维度分别高于该第一矩阵运算数据子集与该第二矩阵运算数据子集。在一些实施例中，该第一高维矩阵运算数据子集以第一存储方式在该至少一个神经网络处理单元中的本地存储器中存储，该第二高维矩阵运算数据子集以第二存储方式在该至少一个神经网络处理单元中的本地存储器中存储。在一些实施例中，该第一存储方式为对齐式存储方式，该第二存储方式为密集式存储方式。根据本申请的另一方面，提出一种数据处理装置。其中，该数据处理装置包含嵌入式神经网络处理器，该嵌入式神经网络处理器包含至少一个神经网络处理单元，该数据处理装置包括：数据获取单元，用于获取矩阵运算数据集；第一数据发送单元，用于将该矩阵运算数据集发送至该嵌入式神经网络处理器中的总存储器；至少一个数据处理单元，用于对该矩阵运算数据集进行变换并得到变换后的相应的矩阵运算数据集；至少一个第二数据发送单元，用于将该变换后的相应的矩阵运算数据集从该嵌入式神经网络处理器中的该总存储器发送至该至少一个神经网络处理单元中的本地存储器；数据运算单元，用于调用该至少一个神经网络处理单元中的该本地存储器中的该变换后的相应的矩阵运算数据集进行运算；数据输出单元，用于输出运算结果。在一些实施例中，该矩阵运算数据集包括第一矩阵运算数据子集与第二矩阵运算数据子集，其中，至少一个该数据处理单元对该矩阵运算数据集进行变换并得到变换后的相应的矩阵运算数据，包括：至少一个该数据处理单元对该第一矩阵运算数据子集与该第二矩阵运算数据子集分别进行维度变换，得到第一高维矩阵运算数据子集与第二高维矩阵运算数据子集。在一些实施例中，该第一高维矩阵运算数据子集与该第二高维矩阵运算数据子集的维度分别高于该第一矩阵运算数据子集与该第二矩阵运算数据子集。在一些实施例中，该第一高维矩阵运算数据子集以第一存储方式在该至少一个神经网络处理单元中的本地存储器中存储，该第二高维矩阵运算数据子集以第二存储方式在该至少一个神经网络处理单元中的本地存储器中存储。在一些实施例中，该第一存储方式为对齐式存储方式，该第二存储方式为密集式存储方式。根据本申请的另一方面，提出一种电子设备。其中，该电子设备包括：至少一个嵌入式神经网络处理器；以及与该至少一个嵌入式神经网络处理器连接的储存器；其中，该储存器存储有可被该至少一个嵌入式神经网络处理器执行的指令，该指令被至少一个嵌入式神经网络处理器执行时，使该至少一个嵌入式神经网络处理器执行上述的数据处理方法。本申请的实施例所揭示的数据处理方法，实现对嵌入式神经网络处理器中的运算数据的多种方式存储，极大节省了每个本地存储器中的存储空间。参照后文的说明和附图，详细申请了本申请的特定实施方式，指明了本申请的原理可以被采用的方式。应该理解，本申请的实施方式在范围上并不因而受到限制。在所附权利要求的精神和条款的范围内，本申请的实施方式包括许多改变、修改和等同。针对一种实施方式描述和/或示出的特征可以以相同或类似的方式在一个或更多个其它实施方式中使用，与其它实施方式中的特征相组合，或替代其它实施方式中的特征。应该强调，术语“包括/包含”在本文使用时指特征、整件、步骤或组件的存在，但并不排除一个或更多个其它特征、整件、步骤或组件的存在或附加。附图说明为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。一个或多个实施例通过与之对应的附图进行实例性说明，这些实例性说明和附图并不构成对实施例的限定，附图中具有相同参考数字标号的元件表示为类似的元件，附图不构成比例限制，并且其中：图1是根据本申请的实施例提供的数据处理方法的整体流程图；图2是根据本申请的实施例提供的数据分段式存储的示意图；图3是根据本申请的实施例提供的数据密集式存储的示意图；图4是根据本申请的实施例提供的矩阵之间做乘法运算的示意图；图5是根据本申请的实施例提供的图4中的矩阵运算数据在各个本地存储器中进行分段式存储的示意图；图6是根据本申请的实施例提供的图4中的矩阵运算数据在本地存储器中进行多种方式存储的示意图；图7是根据本申请的实施例提供的数据处理装置的整体结构示意图；图8是根据本申请的另一实施例提供的数据处理装置的整体结构示意图；图9是根据本申请的实施例提供的电子设备的结构示意图。具体实施方式下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。本领域技术技术人员知道，本申请的实施方式可以实现为一种系统、装置、设备、方法或计算机程序产品。因此，本申请可以具体实现为以下形式，即：完全的硬件、完全的软件(包括固件、驻留软件、微代码等)，或者硬件和软件结合的形式。下面参考本申请的若干代表性实施方式，详细阐释本申请的原理和精神。图1是根据本申请的实施例提供的数据处理方法的整体流程图；图1中所示的数据处理方法应用于嵌入式神经网络处理器，该嵌入式神经网络处理器包含至少一个神经网络处理单元。如图1所示，本实施例中的数据处理方法执行步骤S11，即获取矩阵运算数据集，矩阵运算数据集是从外部的宿主存储器(HostMemory)中获取，该矩阵运算数据集也可以从诸如云端服本文档来自技高网...

【技术保护点】
1.一种数据处理方法，所述数据处理方法应用于嵌入式神经网络处理器，所述嵌入式神经网络处理器包含至少一个神经网络处理单元，其特征在于，所述数据处理方法包括：获取矩阵运算数据集；将所述矩阵运算数据集发送至所述嵌入式神经网络处理器的总存储器；对所述矩阵运算数据集进行变换并得到变换后的相应的矩阵运算数据集；将所述变换后的相应的矩阵运算数据集从所述嵌入式神经网络处理器中的所述总存储器发送至所述至少一个神经网络处理单元中的本地存储器；调用所述至少一个神经网络处理单元中的所述本地存储器中的所述变换后的相应的矩阵运算数据集进行运算；以及输出运算结果。

【技术特征摘要】
1.一种数据处理方法，所述数据处理方法应用于嵌入式神经网络处理器，所述嵌入式神经网络处理器包含至少一个神经网络处理单元，其特征在于，所述数据处理方法包括：获取矩阵运算数据集；将所述矩阵运算数据集发送至所述嵌入式神经网络处理器的总存储器；对所述矩阵运算数据集进行变换并得到变换后的相应的矩阵运算数据集；将所述变换后的相应的矩阵运算数据集从所述嵌入式神经网络处理器中的所述总存储器发送至所述至少一个神经网络处理单元中的本地存储器；调用所述至少一个神经网络处理单元中的所述本地存储器中的所述变换后的相应的矩阵运算数据集进行运算；以及输出运算结果。2.根据权利要求1所述的数据处理方法，其特征在于，所述矩阵运算数据集包括第一矩阵运算数据子集与第二矩阵运算数据子集，其中，对所述矩阵运算数据集进行变换并得到变换后的相应的矩阵运算数据，包括：对所述第一矩阵运算数据子集与所述第二矩阵运算数据子集分别进行维度变换，得到第一高维矩阵运算数据子集与第二高维矩阵运算数据子集。3.根据权利要求2所述的数据处理方法，其特征在于，所述第一高维矩阵运算数据子集与所述第二高维矩阵运算数据子集的维度分别高于所述第一矩阵运算数据子集与所述第二矩阵运算数据子集。4.根据权利要求2所述的数据处理方法，其特征在于，所述第一高维矩阵运算数据子集以第一存储方式在所述至少一个神经网络处理单元中的本地存储器中存储，所述第二高维矩阵运算数据子集以第二存储方式在所述至少一个神经网络处理单元中的本地存储器中存储。5.根据权利要求4所述的数据处理方法，其特征在于，所述第一存储方式为对齐式存储方式，所述第二存储方式为密集式存储方式。6.一种数据处理装置，所述数据处理装置包含嵌入式神经网络处理器，所述嵌入式神经网络处理器包含至少一个神经网络处理单元，其特征在于，所述数据处理装置包括：数据获取单元，用于获取矩阵运算数据集；第一数据发送单元，用于将所述矩阵运算数据集发送至所述嵌入式...

【专利技术属性】
技术研发人员：罗小贤，刘洪，王俊，
申请(专利权)人：算丰科技北京有限公司，
类型：发明
国别省市：北京,11