一种数据运算装置及方法、处理核和电子设备制造方法及图纸

技术编号:33998976 阅读:18 留言:0更新日期:2022-07-02 11:38
本发明专利技术公开了一种数据运算装置及方法、处理核及电子设备,该装置包括:数据读取模块,用于接收指令,并基于所述指令读取第一矩阵和第二矩阵,所述指令包括计算单元阵列的分组参数,所述分组参数是用于将所述计算单元阵列划分为子计算阵列的参数,所述分组参数与所述第一矩阵的行或第二矩阵的列相关;所述子计算阵列读取所述第一矩阵和所述第二矩阵的数据并执行所述第一矩阵和所述第二矩阵的运算。数据运算装置根据指令中的分组参数,将计算单元阵列划分为多个子计算阵列可以实现对计算单元阵列的计算单元灵活组合,可以有效的利用计算单元提高数据运算装置的算力。单元提高数据运算装置的算力。单元提高数据运算装置的算力。

【技术实现步骤摘要】
一种数据运算装置及方法、处理核和电子设备


[0001]本专利技术涉及处理核
,尤其是涉及一种数据运算装置及方法、处理核和电子设备。

技术介绍

[0002]随着科学技术的发展,人类社会正在快速进入智能时代。智能时代的重要特点,就是人们获得数据的种类越来越多,获得数据的量越来越大,而对处理数据的速度要求越来越高。
[0003]芯片是数据处理的基石,它从根本上决定了人们处理数据的能力。从应用领域来看,芯片主要有两条路线:一条是通用芯片路线,例如CPU等,它们能提供极大的灵活性,但是在处理特定领域算法时有效算力比较低;另一条是专用芯片路线,例如TPU等,它们在某些特定领域,能发挥较高的有效算力,但是面对灵活多变的比较通用的领域,它们处理能力比较差甚至无法处理。
[0004]由于智能时代的数据种类繁多且数量巨大,所以要求芯片既具有极高的灵活性,能处理不同领域且日新月异的算法,又具有极强的处理能力,能快速处理极大的且急剧增长的数据量。

技术实现思路

[0005](一)专利技术目的
[0006]本专利技术的目的是提供一种数据运算装置及方法、处理核和电子设备,数据运算装置根据指令中的分组参数,将计算单元阵列划分为多个子计算阵列可以实现对计算单元阵列的计算单元灵活组合,可以有效的利用计算单元提高数据运算装置的算力。
[0007](二)技术方案
[0008]为解决上述问题,本专利技术的第一方面提供了一种数据运算装置,包括:数据读取模块,用于接收指令,并基于所述指令读取第一矩阵和第二矩阵,所述指令包括计算单元阵列的分组参数,所述分组参数是用于将所述计算单元阵列划分为子计算阵列的参数,所述分组参数与所述第一矩阵的行或第二矩阵的列相关;所述子计算阵列读取所述第一矩阵和所述第二矩阵的数据并执行所述第一矩阵和所述第二矩阵的运算。
[0009]本专利技术上述实施例提供的数据运算装置能根据指令中的分组参数,将计算单元阵列划分为多个子计算阵列可以实现对计算单元阵列的计算单元灵活组合,可以有效的利用计算单元提高数据运算装置的算力。
[0010]可选的,所述分组参数是基于所述第一矩阵的行将所述计算单元阵列划分的子计算阵列的参数,所述子计算阵列的行数与所述第一矩阵的行数相同;或者所述分组参数是基于所述第二矩阵的列将所述计算单元阵列划分的子计算阵列的参数,所述子计算阵列的列数与所述第二矩阵的列数相同。
[0011]可选的,所述分组参数是根据所述第一矩阵的行将所述计算单元阵列划分的子计
算阵列的参数;所述子计算阵列,逐列读取所述第一矩阵,使所述子计算阵列的每列计算单元均对应读取所述第一矩阵的一列数据;所述子计算阵列以所述子计算阵列的列维度为单位将所述第二矩阵划分为多个第二子矩阵,所述子计算阵列,逐行读取对应的所述第二子矩阵,使所述子计算阵列的每行计算单元均读取对应的所述第二子矩阵的一行数据。
[0012]可选的,所述分组参数是根据所述第二矩阵的列将所述计算单元阵列划分的子计算阵列的参数;所述子计算阵列以所述子计算阵列的行维度为单位将所述第一矩阵划分为多个第一子矩阵,所述子计算阵列,逐列读取对应的所述第一子矩阵,使所述子计算阵列的每列计算单元均读取对应的所述第一子矩阵的一列数据;所述子计算阵列逐行读取所述第二矩阵,使所述子计算阵列的每行计算单元均读取所述第二矩阵的一行数据。
[0013]可选的,所述子计算阵列中的每个计算单元,用于对每次运算的结果进行累加,得到输出矩阵。
[0014]可选的,所述数据读取模块,包括多个存储区;当所述分组参数是根据所述第一矩阵的行将所述计算单元阵列划分的子计算阵列的参数时,所述数据读取模块用于基于所述分组参数,将所述第一矩阵的元素存储至一个存储区,将所述第二矩阵的元素分组存放至多个存储区;或者,当所述分组参数是根据所述第二矩阵的列将所述计算单元阵列划分的子计算阵列的参数时,所述数据读取模块用于基于所述分组参数,将所述第二矩阵的元素存储至一个存储区,将所述第一矩阵的元素分组存放至多个存储区。
[0015]可选的,所述数据读取模块,还用于基于所述分组参数,接通相应的所述存储区至所述子计算单元阵列的开关,使每个所述子计算单元阵列能提取各自本次运算对应的组的元素。
[0016]可选的,所述数据读取模块,包括:第一数据读取模块,包括:第一控制单元,用于接收指令,根据所述指令提取所述第一矩阵,基于所述指令生成第一控制信号;第一开关阵列,基于所述第一控制信号,接通所述第一矩阵对应的存储区至所述子计算单元阵列的开关,使每个所述子计算单元阵列能提取各自本次运算对应的本组的元素;第二数据读取模块,包括:第二控制单元,用于接收指令,根据所述指令提取第二矩阵,基于所述指令生成第二控制信号;第二开关阵列,基于所述第二控制信号,接通所述第二矩阵对应的存储区至所述子计算单元阵列的开关,使每个所述子计算单元阵列能提取各自本次运算对应的本组的元素。
[0017]可选的,指令还包括:第一矩阵的存储首地址和第二矩阵的存储首地址;所述第一控制单元,包括:第一存储单元;第一地址生成单元,基于所述第一矩阵的首地址生成第一矩阵的取数地址,基于所述第一矩阵的取数地址提取所述第一矩阵,并根据所述分组参数将所述第一矩阵存储至所述第一存储单元;所述第二控制单元,包括:第二存储单元;第二地址生成单元,基于所述第二矩阵的首地址生成第二矩阵的取数地址,基于所述第二矩阵的取数地址提取所述第二矩阵,并根据所述分组参数将所述第二矩阵存储至所述第二存储单元。
[0018]根据本专利技术的第二方面,提供了一种处理核,包括一个或多个如第一方面的数据运算装置。
[0019]根据本专利技术的第三方面,提供了一种电子设备,包括第二方面的处理核。
[0020]根据本专利技术的第四方面,提供了一种芯片,包括一个或多个第三方面提供的处理
核。
[0021]根据本专利技术的第五方面,提供了一种卡板,包括一个或多个第四方面提供的芯片。
[0022]根据本专利技术的第六方面,提供了一种电子设备,包括一个或多个第五方面提供的芯片。
[0023]根据本专利技术的第七方面,提供了一种数据运算方法,包括:接收指令;基于所述指令读取第一矩阵和第二矩阵,所述指令包括计算单元阵列的分组参数,所述分组参数是用于将所述计算单元阵列划分为子计算阵列的参数,所述分组参数与所述第一矩阵的行或第二矩阵的列相关;所述子计算阵列读取所述第一矩阵和第二矩阵的数据并执行所述第一矩阵和第二矩阵的运算。
[0024]根据本专利技术的第八方面,提供了一种计算机存储介质,计算机存储介质上存储有计算机程序,程序被处理器执行时实现第六方面的数据运算方法。
[0025]根据本专利技术的第九方面,提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行程序时实现第六方面的数据运算方法。
[0026]根据本专利技术的第十方面,提供一种计算机程序产品,其中,包括计算机指令,当计算机指令被计算设备执行时,计本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据运算装置,其特征在于,包括:数据读取模块,用于接收指令,并基于所述指令读取第一矩阵和第二矩阵,所述指令包括计算单元阵列的分组参数,所述分组参数是用于将所述计算单元阵列划分为子计算阵列的参数,所述分组参数与所述第一矩阵的行或第二矩阵的列相关;所述子计算阵列读取所述第一矩阵和所述第二矩阵的数据并执行所述第一矩阵和所述第二矩阵的运算。2.根据权利要求1所述的数据运算装置,其特征在于,所述分组参数是基于所述第一矩阵的行将所述计算单元阵列划分的子计算阵列的参数,所述子计算阵列的行数与所述第一矩阵的行数相同;或,所述分组参数是基于所述第二矩阵的列将所述计算单元阵列划分的子计算阵列的参数,所述子计算阵列的列数与所述第二矩阵的列数相同。3.根据权利要求1或2所述的数据运算装置,其特征在于,所述分组参数是根据所述第一矩阵的行将所述计算单元阵列划分的子计算阵列的参数;所述子计算阵列,逐列读取所述第一矩阵,使所述子计算阵列的每列计算单元均对应读取所述第一矩阵的一列数据;所述子计算阵列以所述子计算阵列的列维度为单位将所述第二矩阵划分为多个第二子矩阵,所述子计算阵列,逐行读取对应的所述第二子矩阵,使所述子计算阵列的每行计算单元均读取对应的所述第二子矩阵的一行数据。4.如权利要求1

3任一项所述的数据运算装置,其特征在于,所述分组参数是根据所述第二矩阵的列将所述计算单元阵列划分的子计算阵列的参数;所述子计算阵列以所述子计算阵列的行维度为单位将所述第一矩阵划分为多个第一子矩阵,所述子计算阵列,逐列读取对应的所述第一子矩阵,使所述子计算阵列的每列计算单元均读取对应的所述第一子矩阵的一列数据;所述子计算阵列逐行读取所述第二矩阵...

【专利技术属性】
技术研发人员:ꢀ七四专利代理机构
申请(专利权)人:北京希姆计算科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1