数据处理装置和方法、存储介质及芯片制造方法及图纸

技术编号:43675805 阅读:27 留言:0更新日期:2024-12-18 20:59
本公开提供数据处理装置和方法、存储介质及芯片。所述数据处理装置包括包括乘法累加器。所述乘法累加器被配置为:获取输入张量和稀疏权重张量,所述稀疏权重张量由原始权重张量在第一维度和第二维度中的至少一个维度进行稀疏处理得到;对所述稀疏权重张量和所述输入张量进行乘加运算。本公开能够在不增加乘法累加器数量的情况下提升数据处理装置的算力。

【技术实现步骤摘要】

本公开属于数据处理,特别地涉及数据处理装置和方法、存储介质及芯片


技术介绍

1、在一些科学计算和工程应用中,乘加运算是一种基本的操作。乘加运算将乘法运算的结果与另外一个操作数融合相加得到最终结果。现有技术中,乘加运算主要通过数据处理装置中的乘法累加器(multiplying accumulator,mac)实现。卷积运算为目前应用较为广泛的一种乘加运算。传统卷积运算包含输入特征(feature)、权重(weight)、偏置(bias)和输出特征。输入特征和一组权重进行乘加运算后与偏置相加得到输出特征。


技术实现思路

1、本公开提供数据处理装置和方法、存储介质及芯片,用于提升数据处理装置处理乘加运算的能力。

2、第一方面,本公开实施例提供一种数据处理装置。所述数据处理装置包括:乘法累加器,所述乘法累加器被配置为:获取输入张量和稀疏权重张量,所述稀疏权重张量由原始权重张量在第一维度和第二维度中的至少一个维度进行稀疏处理得到;以及对所述稀疏权重张量和所述输入张量进行乘加运算。>

3、在第一方本文档来自技高网...

【技术保护点】

1.一种数据处理装置,其特征在于,包括:

2.根据权利要求1所述的数据处理装置,其特征在于,所述输入张量包括原始输入张量中与所述稀疏处理的保留位置相对应的数据。

3.根据权利要求1所述的数据处理装置,其特征在于,还包括:

4.根据权利要求1所述的数据处理装置,其特征在于,还包括:

5.根据权利要求3或4所述的数据处理装置,其特征在于,还包括:

6.根据权利要求3或4所述的数据处理装置,其特征在于,所述输入电路被配置为读取所述稀疏权重张量,其中所述稀疏权重张量由原始权重张量经稀疏处理得到。

7.根据权利要求1所述的数据...

【技术特征摘要】

1.一种数据处理装置,其特征在于,包括:

2.根据权利要求1所述的数据处理装置,其特征在于,所述输入张量包括原始输入张量中与所述稀疏处理的保留位置相对应的数据。

3.根据权利要求1所述的数据处理装置,其特征在于,还包括:

4.根据权利要求1所述的数据处理装置,其特征在于,还包括:

5.根据权利要求3或4所述的数据处理装置,其特征在于,还包括:

6.根据权利要求3或4所述的数据处理装置,其特征在于,所述输入电路被配置为读取所述稀疏权重张量,其中所述稀疏权重张量由原始权重张量经稀疏处理得到。

7.根据权利要求1所述的数据处理装置,其特征在于,所述原始权重张量在所述第一维度上被执行第一稀疏处理以得到所述稀疏权重张量,所述第一稀疏处理采用第一稀疏粒度。

8.根据权利要求7所述的数据处理装置,其特征在于,所述第一稀疏粒度为m:n,所述原始权重张量在所述第一维度上的每n个数据被稀疏为m个数据,其中m和n均为正整数且n>m。

9.根据权利要求8所述的数据处理装置,其特征在于,所述第一稀疏处理采用m×ceil(log2n)bit的位置索引来表示稀疏位置,稀疏后的每个数据采用ceil(log2n)bit的位置索引来表示其位置,ceil为向上取整函数。

10.根据权利要求8所述的数据处理装置,其特征在于,所述第一稀疏处理采用bit来表示种稀疏方式,并从所述种稀疏方式中选择一种执行,ceil为向上取整函数。

11.根据权利要求8所述的数据处理装置,其特征在于,所述第一稀疏处理采用ceil(log2n)bit来表示n种稀疏方式,并从所述n种稀疏方式中选择一种执行,n...

【专利技术属性】
技术研发人员:曾飞
申请(专利权)人:瑞芯微电子股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1