System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于存算一体单元的数据处理装置制造方法及图纸_技高网
当前位置: 首页 > 专利查询>之江实验室专利>正文

基于存算一体单元的数据处理装置制造方法及图纸

技术编号:40352314 阅读:7 留言:0更新日期:2024-02-09 14:36
本申请提出了基于存算一体单元的数据处理装置,包括控制单元、数据存储器、预载单元、输入单元、存算一体处理单元以及输出单元。控制单元负责装置的全局及局部模块的控制;数据存储器用于初始数据以及结果数据的存储;预载单元用于输入计算数据的预载;输入单元与数据存储器、预载单元和存算一体处理单元相连,用于读、写、计算过程中的数据载入和输出;存算一体处理单元由多个存算一体单元构成,并与输出单元相连进行数据的输出。通过在内置的存算一体单元的处理装置集成了构建完整计算数据流和控制流所需要的结构单元,实现不同计算结构的矩阵计算,在卷积计算模式下优化了数据流,减少访存的消耗。

【技术实现步骤摘要】

本申请涉及数据计算领域,特别是涉及基于存算一体单元的数据处理装置


技术介绍

1、当前主流使用的计算机依然基于“冯诺依曼”架构的存储、计算分离的架构。由于采用了存储和计算分离的模式,每当计算时,要从存储器中将2个相互计算的值取出,放到计算单元进行计算。当在大量矩阵计算进行过程中,2个矩阵内的数据需要不断从存储器中搬运出来,整个过程中进行数据搬运的功耗非常大。进一步的在神经网络计算过程中,不仅涉及到大量矩阵数据的搬运,还涉及到大量的数据需要复用问题,如果还是不断在需要计算的时候从存储器搬运数据,计算效率和能量消耗等方面都是不可忽略的问题。


技术实现思路

1、基于此,有必要针对上述技术问题,提供一种基于存算一体单元的数据处理装置。

2、第一方面,本申请提供了一种基于存算一体单元的数据处理装置,包括:

3、预载单元,用于执行数据的预载操作;

4、输入单元,与所述预载单元相连,用于执行所述数据的输入操作;

5、存算一体处理单元,与所述输入单元相连,用于对输入的所述数据执行计算操作,得到输出结果;

6、输出单元,与所述存算一体处理单元,用于将所述输出结果进行输出;

7、数据存储器,与所述预载单元、所述输出单元相连,用于向所述预载单元提供数据以及对所述输出结果进行存储;

8、控制单元,与所述预载单元、所述输入单元、所述存算一体处理单元、所述输出单元、所述数据存储器相连,用于通过配置寄存器中存储的参数配置对所述数据的处理过程以发送不同控制信号的方式进行控制。

9、在其中的一个实施例中,所述存算一体单元包括:

10、存算一体控制单元,用于对输入的所述数据进行转换,以及向所述控制单元反馈数据处理结果;

11、存算一体模块,用于对转换后的结果进行存储;

12、移位加减器,用于对至少两个周期内输入的所述数据进行移位,并进行累积处理得到计算结果。

13、在其中的一个实施例中,所述存算一体模块包括:

14、电源选通单元,用于选取不同操作模式下的电源类别,并进行电源输出;

15、行译码单元,用于结合行通道数产生存算一体阵列的行选通信号;

16、列译码单元,用于结合列通道数产生所述存算一体阵列的列选通信号;

17、其中,所述存算一体阵列由存算一体器件通过交叉排布构成。

18、在其中的一个实施例中,所述存算一体模块还包括:

19、所述行译码单元,包括行译码电路、wl选通电路、bl选通电路;

20、所述列译码单元,包括列译码电路、sl选通电路。

21、在其中的一个实施例中,所述处理过程包括数据流控制和访存模式控制;

22、其中,所述数据流控制包括常规矩阵计算模式和卷积计算模式,所述访存模式控制包括直接模式和预载模式。

23、在其中的一个实施例中,所述控制单元包括:

24、针对常规矩阵计算模式,通过对数据计算结构以及数据通道参数的配置,实现不同尺寸的矩阵乘法,单次计算完成后进行结构的重构;

25、针对卷积计算模式,对数据复用模式进行参数配置,通过移位计算器载入数据的选通复用卷积滑窗内的部分数据。

26、在其中的一个实施例中,所述控制单元包括:

27、针对直接模式,将所述数据会从数据存储器中读出,直接载入到输入单元;

28、针对预载模式,将所述数据会从数据存储器中读出,载入到预载单元,在控制单元的控制下流入输入单元。

29、在其中的一个实施例中,所述预载单元包括:

30、从所述数据存储器载入数据过程中,拆分为多个位宽长度为单数据位宽的数据,经所述控制单元产生与寄存器组间通道的选通信号,以及数据始能信号完成预载。

31、在其中的一个实施例中,所述输入单元包括:

32、计算输入通道,用于计算过程中数据的输入,通过移位寄存器将单数据位宽的数据分多个周期输入到存算一体单元中进行计算;

33、读写输入通道,用于存算一体单元中存算一体阵列的访存。

34、在其中的一个实施例中,所述输出单元包括:

35、计算输出通道,将计算结果值进行后处理再输出;

36、读输出通道,用于存算一体单元中存算一体阵列的相应地址存储的原始数据读出。

37、上述基于存算一体单元的数据处理装置,通过其存算一体化的特点可以很好的解决冯诺依曼架构带来的一系列问题,可以减少数据计算过程中的数据搬运量,减少数据搬运产生的能耗,从而提升计算效率。并且存算一体器件阵列式的结构,在矩阵计算的应用场景下,可以大幅度的提高计算的并行度,进一步提升计算效率。实现了基于多个存算一体单元的读、写、矩阵计算功能,用矩阵乘法加速,优化部分数据流,在卷积计算过程中可以减少访存次数,通用性强,灵活应用于不同神经网络加速计算。

本文档来自技高网...

【技术保护点】

1.基于存算一体单元的数据处理装置,其特征在于,所述数据处理装置包括:

2.根据权利要求1所述的基于存算一体单元的数据处理装置,其特征在于,所述存算一体单元包括:

3.根据权利要求2所述的基于存算一体单元的数据处理装置,其特征在于,所述存算一体模块包括:

4.根据权利要求3所述的基于存算一体单元的数据处理装置,其特征在于,所述存算一体模块还包括:

5.根据权利要求1所述的基于存算一体单元的数据处理装置,其特征在于,所述处理过程包括数据流控制和访存模式控制;

6.根据权利要求5所述的基于存算一体单元的数据处理装置,其特征在于,所述控制单元包括:

7.根据权利要求5所述的基于存算一体单元的数据处理装置,其特征在于,所述控制单元包括:

8.根据权利要求1所述的基于存算一体单元的数据处理装置,其特征在于,所述预载单元包括:

9.根据权利要求1所述的基于存算一体单元的数据处理装置,其特征在于,所述输入单元包括:

10.根据权利要求1所述的基于存算一体单元的数据处理装置,其特征在于,所述输出单元包括:

...

【技术特征摘要】

1.基于存算一体单元的数据处理装置,其特征在于,所述数据处理装置包括:

2.根据权利要求1所述的基于存算一体单元的数据处理装置,其特征在于,所述存算一体单元包括:

3.根据权利要求2所述的基于存算一体单元的数据处理装置,其特征在于,所述存算一体模块包括:

4.根据权利要求3所述的基于存算一体单元的数据处理装置,其特征在于,所述存算一体模块还包括:

5.根据权利要求1所述的基于存算一体单元的数据处理装置,其特征在于,所述处理过程包括数据流控制和访存模式控制...

【专利技术属性】
技术研发人员:顾子熙时拓陈美文刘津畅卢建唐双柱
申请(专利权)人:之江实验室
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1