数据处理装置、数据处理方法及相关产品制造方法及图纸

本披露公开了一种数据处理装置、利用数据处理装置执行分块指令的数据处理方法及相关产品。该数据处理装置可以作为计算装置包括在组合处理装置中，该组合处理装置还可以包括接口装置和其他处理装置。该计算装置与其他处理装置进行交互，共同完成用户指定的计算操作。组合处理装置还可以包括存储装置，该存储装置分别与计算装置和其他处理装置连接，用于存储该计算装置和其他处理装置的数据。本披露的方案实现了小卷积运算中的数据维度转换存储，提高了运算处理效率。高了运算处理效率。高了运算处理效率。

【技术实现步骤摘要】
数据处理装置、数据处理方法及相关产品


[0001]本披露一般地涉及数据处理领域。更具体地，本披露涉及一种数据处理装置、利用数据处理装置对数据执行分块指令的数据处理方法、芯片和板卡。

技术介绍

[0002]目前，深度学习(Deep Learning)已经成为机器学习中的重要分支，也大力助推着人工智能(AI)的发展。深度学习的核心技术——深度神经网络(DNN)已在诸多行业有着广泛的应用。
[0003]神经网络是人工智能、深度学习中最为关键的技术之一，其中卷积神经网络(Convolution Neural Network，CNN)是最为重要的一种网络类型。卷积神经网络中最为关键的计算即为卷积层(Conv layer)的卷积运算(Convolution Operation)。卷积层的功能是对输入数据进行特征提取，通过多层卷积，能够抽取复杂特征，以保证网络具有足够的表达能力和泛化能力。神经网络模型中包含了大量的、各种类型的卷积运算，卷积运算的计算性能极大地影响整个神经网络模型的计算性能。当神经网络模型应用于不同领域时，例如语音识别、机器翻译、图像本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理装置，包括控制电路、第一存储电路和第二存储电路，其中：所述第一存储电路用于存储处理前的第一数据；所述第二存储电路用于存储处理后的第二数据；以及所述控制电路用于：根据所述第一数据的co维度的大小，确定优选对齐值；根据所述优选对齐值确定所述co维度的相邻维度的拆补分配；以及根据所述拆补分配来配置并执行分块指令，以将按照第一维度存储顺序存储在第一存储电路上的第一数据转换为按照第二维度存储顺序存储在第二存储电路上的第二数据，其中所述第一数据是多维数据，其多维形状为：[高维ho]*[中维wo]*[co维度]*[多维混合]其中所述多维混合至少包括以下多项的各种组合：co、高维ho、低维ho、高维wo、低维wo；所述第二数据是三维数据，其三维形状为：[ho*wo*co]其中co表示第二数据的最低存储维度，wo表示第二数据的次低存储维度，ho表示第二数据的最高存储维度。2.根据权利要求1所述的数据处理装置，其中所述控制电路进一步用于当所述优选对齐值P小于所述分块指令的基准对齐值M时，按如下确定所述co维度的相邻维度的拆补分配：当M/P≤4时，Ws1＝M/P，Ws2＝1；以及当M/P>4时，Ws1＝4，Ws2＝M/4P，其中Ws1表示从所述co维度的相邻低维度侧拆分Ws1倍的数据补至所述co维度，Ws2表示从所述co维度的相邻高维度侧拆分Ws2倍的数据补至所述co维度。3.根据权利要求2所述的数据处理装置，其中所述控制电路进一步用于按如下规则根据所述第一数据的co维度大小确定所述优选对齐值P：当0<co≤4B时，P＝4B；当2
n
*4B<co≤2
n+1
*4B，时，P＝2
n+1
*4B；以及当时，P＝M。4.根据权利要求2
‑
3任一所述的数据处理装置，其中所述控制电路进一步用于：根据所述拆补分配，将所述第一数据由所述多维形状视为分块处理前的三维等效形状：([高维ho]*[中维wo/Ws2])*(Ws2*co维度*Ws1)*(拆补后多维混合)其中最高维为[高维ho]*[中维wo/Ws2]，次高维为Ws2*co维度*Ws1，最低维为拆补后多维混合，所述拆补后多维混合中的低维wo变为[低维wo/Ws1]；以及将所述第二数据由所述三维形状视为分块处理后的三维等效形状：5.根据权利要求4所述的数据处理装置，其中所述控制电路进一步用于：对所述三维等效形状的第一数据按循环执行分块指令，所述循环包括内层co维度循
环、中层wo维度循环和外层ho维度循环。6.根据权利要求5所述的数据处理装置，其中所述内层co维度循环包括：将所述co维度作为一个数据块进行处理，内层co维度循环次数repeat_co＝1。7.根据权利要求6所述的数据处理装置，其中所述中层wo维...

【专利技术属性】
技术研发人员：ꢀ七四专利代理机构，
申请(专利权)人：安徽寒武纪信息科技有限公司，
类型：发明
国别省市：