【技术实现步骤摘要】
数据处理装置、数据处理方法及相关产品
[0001]本披露一般地涉及数据处理领域。更具体地,本披露涉及一种数据处理装置、利用数据处理装置对数据执行分块指令的数据处理方法、芯片和板卡。
技术介绍
[0002]目前,深度学习(Deep Learning)已经成为机器学习中的重要分支,也大力助推着人工智能(AI)的发展。深度学习的核心技术——深度神经网络(DNN)已在诸多行业有着广泛的应用。
[0003]神经网络是人工智能、深度学习中最为关键的技术之一,其中卷积神经网络(Convolution Neural Network,CNN)是最为重要的一种网络类型。卷积神经网络中最为关键的计算即为卷积层(Conv layer)的卷积运算(Convolution Operation)。卷积层的功能是对输入数据进行特征提取,通过多层卷积,能够抽取复杂特征,以保证网络具有足够的表达能力和泛化能力。神经网络模型中包含了大量的、各种类型的卷积运算,卷积运算的计算性能极大地影响整个神经网络模型的计算性能。当神经网络模型应用于不同领域时,例如语音 ...
【技术保护点】
【技术特征摘要】
1.一种数据处理装置,包括控制电路、第一存储电路和第二存储电路,其中:所述第一存储电路用于存储处理前的第一数据;所述第二存储电路用于存储处理后的第二数据;以及所述控制电路用于配置并执行分块指令,以将按照第一维度存储顺序存储在第一存储电路上的第一数据转换为按照第二维度存储顺序存储在第二存储电路上的第二数据,其中所述第一数据是多维数据,其多维形状为:[高维ho]*[中维wo]*[co维度]*[多维混合]其中所述多维混合至少包括以下多项的各种组合:co、高维ho、低维ho、高维wo、低维wo;所述第二数据是三维数据,其三维形状为:[ho*wo*co]其中co表示第二数据的最低存储维度,wo表示第二数据的次低存储维度,ho表示第二数据的最高存储维度。2.根据权利要求1所述的数据处理装置,其中所述控制电路进一步用于:将所述第一数据由所述多维形状视为分块处理前的三维等效形状:([高维ho]*[中维wo])*[co维度]*[多维混合]其中最高维为[高维ho]*[中维wo],次高维为co,最低维为多维混合;以及将所述第二数据由所述三维形状视为分块处理后的三维等效形状:3.根据权利要求2所述的数据处理装置,其中所述控制电路进一步用于:对所述三维等效形状的第一数据按循环执行分块指令,所述循环包括内层co维度循环、中层wo维度循环和外层ho维度循环。4.根据权利要求3所述的数据处理装置,其中所述内层co维度循环包括:根据所述co维度大小分成整数段和/或余数段,其中所述整数段的co维度大小对齐到所述分块指令的基准对齐值M,所述余数段的co维度大小小于所述M;以及按照co维度每M为一次数据块,余数段为一次数据块,重复repeat_co次,其中repeat_co=(co+M
‑
1)/M。5.根据权利要求4所述的数据处理装置,其中所述中层wo维度循环包括:按照wo维度每1个数据为一次数据块,重复repeat_wo次,其中repeat_wo=所述中维wo。6.根据权利要求5所述的数据处理装置,其中所述外层ho维度循环包括:按照ho维度每1个数据为一次数据块,重复repeat_ho次,其中repeat_ho=所述最高维中的高维ho。7.根据权利要求6所述的数据处理装置,其中所述控制电路进一步用于:在每次针对数据块执行分块指令之前,根据已处理的数据块大小,设置针对当前数据块执行的分块指令的输入张量偏置和输出张量偏置,其中所述输入张量偏置表示处理前的所述数据块相对于所述第一数据的起始存储地址的偏移,所述输出张量偏置表示处理后的所述数据块相对于所述第二数据的起始存储地址的偏移。
8....
【专利技术属性】
技术研发人员:ꢀ七四专利代理机构,
申请(专利权)人:安徽寒武纪信息科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。