System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 数据处理装置及操作方法、计算装置、存储介质制造方法及图纸_技高网

数据处理装置及操作方法、计算装置、存储介质制造方法及图纸

技术编号:41070381 阅读:3 留言:0更新日期:2024-04-24 11:26
本公开提供一种数据处理装置及其操作方法、计算装置以及存储介质。该数据处理装置包括乘加运算阵列和配置单元,其中,乘加运算阵列包括多个乘加计算单元,配置单元与乘加运算阵列耦接,且配置单元至少具有第一配置状态和第二配置状态,配置单元在第一配置状态时控制多个乘加计算单元分为N组,每组内的M个乘加计算单元配置为彼此耦接以用于将每组中M个计算结果累加,配置单元在第二配置状态时控制多个乘加计算单元分为Q组,每组内的P个乘加计算单元配置为彼此耦接以用于将每组中P个计算结果累加。该数据处理装置能够通过变换乘加运算阵列的配置状态,使得神经网络算法中的参数能够更充分地映射到硬件单元,从而提高硬件单元利用率。

【技术实现步骤摘要】

本公开的实施例涉及一种数据处理装置及操作方法、计算装置、存储介质


技术介绍

1、目前,人工智能领域中,深度学习(deep learning)技术在图像识别、语音识别、自动驾驶等应用都取得了非常不错的效果。深度学习涉及例如卷积神经网络(cnn)、深度神经网络(dnn)、循环神经网络(rnn)等。神经网络从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络,神经网络处理器为了加快运算速度都会采用乘加运算阵列的方法来实现,并将神经网络算法中的维度映射到乘加运算阵列的各个维度。

2、公开内容

3、本公开的一些实施例提供一种数据处理装置,所述数据处理装置包括乘加运算阵列和配置单元,其中,所述乘加运算阵列包括多个乘加计算单元,所述配置单元与所述乘加运算阵列耦接,且所述配置单元至少具有第一配置状态和第二配置状态,所述配置单元在所述第一配置状态时控制所述多个乘加计算单元分为n组,每组内的m个所述乘加计算单元配置为彼此耦接以用于将每组中m个计算结果累加,所述配置单元在所述第二配置状态时控制所述多个乘加计算单元分为q组,每组内的p个乘加计算单元配置为彼此耦接以用于将每组中p个计算结果累加,其中,m、n、p与q均为大于1整数,且n与q不相等。

4、例如,在本公开一些实施例提供的数据处理装置中,m为3的正整数倍。

5、例如,在本公开一些实施例提供的数据处理装置中,p为2的正整数次幂。

6、例如,在本公开一些实施例提供的数据处理装置中,所述控制单元配置为获取计算参数,以根据所述计算参数控制所述配置单元的配置状态。

7、例如,在本公开一些实施例提供的数据处理装置中,所述控制单元进一步配置为控制所述第一配置状态时的n组所述乘加计算单元并行计算,以及所述第二配置状态时的q组所述乘加计算单元并行计算。

8、例如,在本公开一些实施例提供的数据处理装置还包括多个加法器,其中,所述配置单元与所述多个加法器耦接,在所述第一配置状态时为n组所述乘加计算单元每组分配至少一个加法器以累加每组中m个计算结果,在所述第二配置状态时为q组所述乘加计算单元每组分配至少一个加法器以累加每组中p个计算结果。

9、本公开的一些实施例还提供一种计算装置,所述计算装置包括上述任一实施例所述的数据处理装置。

10、本公开的一些实施例还提供一种数据处理装置的操作方法,用于上述任一实施例所述的数据处理装置,所述操作方法包括:接收输入矩阵和卷积核;根据计算参数,控制所述配置单元对所述乘加运算阵列进行配置;使用配置后的所述乘加运算阵列对所述输入矩阵和所述卷积核进行卷积计算。

11、例如,在本公开一些实施例提供的数据处理装置的操作方法中,所述控制所述配置单元对所述乘加运算阵列进行配置,包括:响应于所述配置单元的配置状态从所述第一配置状态切换为所述第二配置状态,在所述n组乘加计算单元中的选择至少一组作为目标拆分组,其他组作为待分配组,将所述目标拆分组中的乘加计算单元分配至所述待分配组,以使所述多个乘加计算单元分为q组,或者,响应于所述配置单元的配置状态从所述第二配置状态切换为所述第一配置状态,在所述q组乘加计算单元中每组选择至少一个乘加计算单元作为目标拆分单元,将所述目标拆分单元合并为至少一个新的组,以使所述多个乘加计算单元分为n组。

12、本公开的一些实施例还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,其中,所述计算机指令在被处理器执行时用于实现如下步骤:接收输入矩阵和卷积核;根据计算参数,控制所述配置单元对所述乘加运算阵列进行配置;使用配置后的所述乘加运算阵列对所述输入矩阵和所述卷积核进行卷积计算。


技术实现思路

本文档来自技高网...

【技术保护点】

1.一种数据处理装置,包括乘加运算阵列和配置单元,其中,所述乘加运算阵列包括多个乘加计算单元,

2.根据权利要求1所述的数据处理装置,其中,M为3的正整数倍。

3.根据权利要求1或2所述的数据处理装置,其中,P为2的正整数次幂。

4.根据权利要求1所述的数据处理装置,还包括控制单元,其中,所述控制单元配置为获取计算参数,以根据所述计算参数控制所述配置单元的配置状态。

5.根据权利要求4所述的数据处理装置,其中,所述控制单元进一步配置为控制所述第一配置状态时的N组所述乘加计算单元并行计算,以及控制所述第二配置状态时的Q组所述乘加计算单元并行计算。

6.根据权利要求1或4所述的数据处理装置,还包括多个加法器,其中,所述配置单元与所述多个加法器耦接,

7.一种计算装置,包括权利要求1-6任一所述的数据处理装置。

8.一种数据处理装置的操作方法,用于权利要求1-6任一所述的数据处理装置,包括:

9.根据权利要求8所述的数据处理装置的操作方法,其中,控制所述配置单元对所述乘加运算阵列进行配置,包括:

10.一种计算机可读存储介质,存储有计算机指令,其中,所述计算机指令在被处理器执行时用于实现如下步骤:

...

【技术特征摘要】

1.一种数据处理装置,包括乘加运算阵列和配置单元,其中,所述乘加运算阵列包括多个乘加计算单元,

2.根据权利要求1所述的数据处理装置,其中,m为3的正整数倍。

3.根据权利要求1或2所述的数据处理装置,其中,p为2的正整数次幂。

4.根据权利要求1所述的数据处理装置,还包括控制单元,其中,所述控制单元配置为获取计算参数,以根据所述计算参数控制所述配置单元的配置状态。

5.根据权利要求4所述的数据处理装置,其中,所述控制单元进一步配置为控制所述第一配置状态时的n组所述乘加计算单元并行计算,以及控制所述第二配...

【专利技术属性】
技术研发人员:孙福海张瑞凯
申请(专利权)人:北京奕斯伟计算技术股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1