数据处理装置、数据处理方法及相关装置制造方法及图纸

本申请提供了一种数据处理装置、数据处理方法及相关装置，包括神经网络处理器，首先，根据第一数据的通道数n将所述第一数据划分为n个第一子数据，所述第一数据表示待存储的数据，n为小于或等于M/2的正整数；将每个第一子数据写入INT(M/n)个环形缓存空间组成的循环缓存空间中，任意一个循环缓存空间用于存储任意一个第一子数据。可以通过特定的存储空间架构减小神经网络处理器中缓存控制电路的面积，降低数据写入和读取的功耗。降低数据写入和读取的功耗。降低数据写入和读取的功耗。

【技术实现步骤摘要】
数据处理装置、数据处理方法及相关装置


[0001]本申请涉及神经网络处理器
，特别是一种数据处理装置、数据处理方法及相关装置。

技术介绍

[0002]随着现有技术的发展，为了增强装置人工智能的能力，通常会在系统中集成神经网络处理器(Neural network Processing Unit，NPU)，一般采用“数据驱动并行计算”的架构，用于加速神经网络的运算，解决传统芯片在神经网络运算时效率低下的问题。如何降低NPU的功耗成为了一个难题。

技术实现思路

[0003]有鉴于此，本申请提供了一种数据处理装置、数据处理方法及相关装置，可以通过特定的存储空间架构减小神经网络处理器中缓存控制电路的面积，降低数据写入和读取的功耗。
[0004]第一方面，本申请实施例提供了一种数据处理装置，包括神经网络处理器，所述神经网络处理器包括处理单元阵列和M个存储模块，所述处理单元阵列包括M列处理单元集，M为正偶数；
[0005]每个存储模块包括与神经网络层数一一对应的环形缓存空间，每层的M个环形缓存空间组成至多M/2个循环缓存空间，每个循环缓存空间包括至少2个至多M个环形缓存空间；
[0006]每个环形缓存空间包括x行缓存地址空间，x为大于2的正整数，所述x行缓存地址空间包括前N
‑
1行首部地址空间和后N
‑
1行尾部地址空间，N为卷积核的大小NxN，N为大于1且小于x的正整数；组成所述循环缓存空间的任意一个环形缓存空间的尾部地址空间之后N
‑/>1行尾部影子空间与其后一个环形缓存空间的前N
‑
1行首部地址空间存在第一映射关系，组成所述循环缓存空间的任意一个环形缓存空间的首部地址空间之前N
‑
1行首部影子空间与其前一个环形缓存空间的N
‑
1行尾部地址空间存在第二映射关系；
[0007]所述M个存储模块用于分布式存储第一数据，所述M列处理单元集用于从所述M个存储模块中读取分布式存储的所述第一数据。
[0008]第二方面，本申请实施例提供了一种数据处理方法，应用于如本申请实施例第一方面所述的数据处理装置，所述方法包括：
[0009]根据第一数据的通道数n将所述第一数据划分为n个第一子数据，所述第一数据表示待存储的数据，n为小于或等于M/2的正整数；
[0010]将每个第一子数据写入INT(M/n)个环形缓存空间组成的循环缓存空间中，任意一个循环缓存空间用于存储任意一个第一子数据。
[0011]第三方面，本申请实施例提供了一种系统级芯片，所述神经网络处理器包括处理单元阵列和M个存储模块，所述处理单元阵列包括M列处理单元集，M为正偶数；每个存储模
块包括与神经网络层数一一对应的环形缓存空间，每层的M个环形缓存空间组成至多M/2个循环缓存空间，每个循环缓存空间包括至少2个至多M个环形缓存空间；每个环形缓存空间包括x行缓存地址空间，x为大于2的正整数，所述x行缓存地址空间包括前N
‑
1行首部地址空间和后N
‑
1行尾部地址空间，N为卷积核的大小NxN，N为大于1且小于x的正整数；组成所述循环缓存空间的任意一个环形缓存空间的尾部地址空间之后N
‑
1行尾部影子空间与其后一个环形缓存空间的前N
‑
1行首部地址空间存在第一映射关系，组成所述循环缓存空间的任意一个环形缓存空间的首部地址空间之前N
‑
1行首部影子空间与其前一个环形缓存空间的N
‑
1行尾部地址空间存在第二映射关系；所述神经网络处理器用于：
[0012]根据第一数据的通道数n将所述第一数据划分为n个第一子数据，所述第一数据表示待存储的数据，n为小于或等于M/2的正整数；
[0013]将每个第一子数据写入INT(M/n)个环形缓存空间组成的循环缓存空间中，任意一个循环缓存空间用于存储任意一个第一子数据。
[0014]第四方面，本申请实施例提供了一种电子设备，包括存储器和处理器，所述存储器用于存储程序，所述处理器执行所述存储器存储的程序，当所述存储器存储的程序被执行时，所述处理器用于执行如本申请实施例第二方面任一项所述的方法中的步骤的指令。
[0015]第五方面，本申请实施例提供了一种计算机存储介质，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行如本申请实施例第二方面任一项所述的方法。
[0016]第六方面，本申请实施例提供了一种计算机产品，其中，上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，上述计算机程序可操作来使计算机执行如本申请实施例第二方面任一方法中所描述的部分或全部步骤。该计算机程序产品可以为一个软件安装包。
[0017]可见，通过上述数据处理装置、数据处理方法及相关装置，包括神经网络处理器，所述神经网络处理器包括处理单元阵列和M个存储模块，所述处理单元阵列包括M列处理单元集，M为正偶数；每个存储模块包括与神经网络层数一一对应的环形缓存空间，每层的M个环形缓存空间组成至多M/2个循环缓存空间，每个循环缓存空间包括至少2个至多M个环形缓存空间；每个环形缓存空间包括x行缓存地址空间，x为大于2的正整数，所述x行缓存地址空间包括前N
‑
1行首部地址空间和后N
‑
1行尾部地址空间，N为卷积核的大小NxN，N为大于1且小于x的正整数；组成所述循环缓存空间的任意一个环形缓存空间的尾部地址空间之后N
‑
1行尾部影子空间与其后一个环形缓存空间的前N
‑
1行首部地址空间存在第一映射关系，组成所述循环缓存空间的任意一个环形缓存空间的首部地址空间之前N
‑
1行首部影子空间与其前一个环形缓存空间的N
‑
1行尾部地址空间存在第二映射关系；所述M个存储模块用于分布式存储第一数据，所述M列处理单元集用于从所述M个存储模块中读取分布式存储的所述第一数据。可以减小神经网络处理器中缓存控制电路的面积，降低数据写入和读取的功耗。
附图说明
[0018]为了更清楚地说明本专利技术实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本专利技术的一些实施例，对于本领域普
通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0019]图1为本申请实施例提供的一种数据处理装置的架构示意图；
[0020]图2为本申请实施例提供的一种存储模块的结构示意图；
[0021]图3为本申请实施例提供的一种环形缓存空间的结构示意图；
[0022]图4为本申请实施例提供的一种循环缓存空间的示例结构图；
[0023]图5为本申请实施例提供的一种数据处理方法的流程示意图；
[0024]图6为本申请实施例提供的一种神经网络处本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理装置，其特征在于，包括神经网络处理器，所述神经网络处理器包括处理单元阵列和M个存储模块，所述处理单元阵列包括M列处理单元集，M为正偶数；每个存储模块包括与神经网络层数一一对应的环形缓存空间，每层的M个环形缓存空间组成至多M/2个循环缓存空间，每个循环缓存空间包括至少2个至多M个环形缓存空间；每个环形缓存空间包括x行缓存地址空间，x为大于2的正整数，所述x行缓存地址空间包括前N
‑
1行首部地址空间和后N
‑
1行尾部地址空间，N为卷积核的大小NxN，N为大于1且小于x的正整数；组成所述循环缓存空间的任意一个环形缓存空间的尾部地址空间之后N
‑
1行尾部影子空间与其后一个环形缓存空间的前N
‑
1行首部地址空间存在第一映射关系，组成所述循环缓存空间的任意一个环形缓存空间的首部地址空间之前N
‑
1行首部影子空间与其前一个环形缓存空间的N
‑
1行尾部地址空间存在第二映射关系；所述M个存储模块用于分布式存储第一数据，所述M列处理单元集用于从所述M个存储模块中读取分布式存储的所述第一数据。2.一种数据处理方法，其特征在于，应用于权利要求1所述的数据处理装置，所述方法包括：根据第一数据的通道数n将所述第一数据划分为n个第一子数据，所述第一数据表示待存储的数据，n为小于或等于M/2的正整数；将每个第一子数据写入INT(M/n)个环形缓存空间组成的循环缓存空间中，任意一个循环缓存空间用于存储任意一个第一子数据。3.根据权利要求2所述的方法，其特征在于，所述将每个第一子数据写入INT(M/n)个环形缓存空间组成的循环缓存空间中，包括：获取所述每个第一子数据的行数y；将所述每个第一子数据依次写入所述INT(M/n)个环形缓存空间组成的循环缓存空间，写入y/(INT(M/n)*x)轮以存储所述第一数据。4.根据权利要求1所述的方法，其特征在于，所述将每个第一子数据写入INT(M/n)个环形缓存空间组成的循环缓存空间中之后，所述方法还包括：通过每个处理单元集读取所述每个循环缓存空间中的第一子数据。5.根据权利要求2
‑
4任一项所述的方法，其特征在于，所述通过每个处理单元集读取所述每个循环缓存空间中的第一子数据，包括：依次循环读取INT(M/n)个环形缓存空间的INT(M/n)*x)行y轮以读取所述每个第一子数据。6.根据权利要求5所述的方法，其特征在于，所述依次循环读取INT(M/n)个环形缓存空间的INT(M/n)*x)行y轮以读取所述每个第...

【专利技术属性】
技术研发人员：高迪，
申请(专利权)人：OPPO广东移动通信有限公司，
类型：发明
国别省市：