集成片上存储器阵列的人工智能芯片、计算任务处理方法和电子设备技术

技术编号:44570135 阅读:22 留言:0更新日期:2025-03-11 14:29
本公开涉及人工智能芯片领域,具体涉及一种集成片上存储器阵列的人工智能芯片、计算任务处理方法和电子设备,所述芯片包括控制器和多个处理器‑存储器模块,其中:控制器获取计算任务,对所述计算任务进行解析,得到多个子计算任务;处理器‑存储器模块包括处理单元组、存储器、调度器,其中:处理单元组包括多个处理单元,处理单元处理所述子计算任务;存储器存储处理单元组中的多个处理单元在执行相应子计算任务时涉及的数据;调度器连接到所述多个处理单元和所述存储器,用于调度所述多个处理单元对所述存储器的访问操作,所述处理单元组设置在所述人工智能芯片的处理层中,所述存储器设置在所述人工智能芯片的存储层中,所述处理层和所述存储层堆叠设置。

【技术实现步骤摘要】

本公开涉及人工智能芯片领域,具体涉及一种集成片上存储器阵列的人工智能芯片、计算任务处理方法和电子设备


技术介绍

1、人工智能芯片通常包括多个处理单元(pe),用于执行人工智能任务涉及的各种计算。处理单元要计算的数据通常存放在芯片外的存储器(例如,ddr)或芯片内与处理单元共面的存储器(例如,sram)中。当处理单元进行计算时,需要先从芯片外存储器或芯片内存储器取出数据放在芯片的缓存中,再从缓存中读取数据进行计算。处理单元计算得到的数据先放入缓存中,再从缓存写入芯片外存储器或芯片内存储器。处理单元对存储器的数据访问速度受到数据传输线带宽工艺物理极限的限制,当处理单元的数据访问需求超出数据传输线带宽时,部分处理单元就需要排队等待其他处理单元的数据访问完成后再进行数据访问。目前的人工智能芯片中少则包含十几个处理单元,多则包含几百甚至更多个处理单元,当处理单元数量增多时,数据传输线带宽会严重制约处理单元的数据访问速度,进而影响人工智能芯片的处理效率,限制了人工智能芯片处理能力的进一步提升。

2、与此同时,处理单元对存储器的频繁访问也会导致存储器功耗增本文档来自技高网...

【技术保护点】

1.一种集成片上存储器阵列的人工智能芯片,其特征在于,包括多个处理器-存储器模块,所述处理器-存储器模块包括处理单元组、存储器、调度器,在所述处理器-存储器模块中:

2.根据权利要求1所述的人工智能芯片,其特征在于:

3.根据权利要求2所述的人工智能芯片,其特征在于,所述多个处理单元分别通过相应的沿所述垂直方向的数据传输线连接到所述调度器。

4.根据权利要求2所述的人工智能芯片,其特征在于:

5.根据权利要求2所述的人工智能芯片,其特征在于,在所述处理器-存储器模块中,所述存储器、所述调度器、所述处理单元组的位置被设置为使得所述存储器和所述...

【技术特征摘要】

1.一种集成片上存储器阵列的人工智能芯片,其特征在于,包括多个处理器-存储器模块,所述处理器-存储器模块包括处理单元组、存储器、调度器,在所述处理器-存储器模块中:

2.根据权利要求1所述的人工智能芯片,其特征在于:

3.根据权利要求2所述的人工智能芯片,其特征在于,所述多个处理单元分别通过相应的沿所述垂直方向的数据传输线连接到所述调度器。

4.根据权利要求2所述的人工智能芯片,其特征在于:

5.根据权利要求2所述的人工智能芯片,其特征在于,在所述处理器-存储器模块中,所述存储器、所述调度器、所述处理单元组的位置被设置为使得所述存储器和所述调度器与所述处理单元组在人工智能芯片表面上投影的重叠面积最大化。

6.根据权利要求1所述的人工智能芯片,其特征在于:

7.根据权利要求6所述的人工智能芯片,其特征在于,所述多个处理单元分别通过相应的设置在所述处理层中的数据传输线连接到所述调度器。

8.根据权利要求6所述的人工智能芯片,其特征在于:

9.根据权利要求6所述的人工智能芯片,其特征在于,在所述处理器-存储器模块中,所述存储器、所述调度器、所述处理单元组的位置被设置为使得所述调度器和所述处理单元组与所述存储器在人工智能芯片表面上投影的重叠面积最大化。

10.根据权利要求1所述的人工智能芯片,其特征在于:

11.根据权利要求1所述的人工智能芯片,其特征在于,还包括控制器,所述控制器用于对所述计算任务进行解析,以得到多个子计算任务。

12.根据权利要求11所述的人工智能芯片,其特征在于,所述仲裁单元包括配置寄存器,所述控制器通过设置所述配置寄存器的值,对所述仲裁单元的仲裁模式进行配置。

13.根据权利要求11所述的人工智能芯片,其特征在于:

14.根据权利要求1所述的人工智能芯片,其特征在于:

15.根据权利要求14所述的人工智能芯片,其特征在于,所述仲裁树包括二叉树结构。

16.根据权利要求14所述的人工智能芯片,其特征在于,当所述调度器包括多个仲裁单元时,所述多个仲裁单元采用相同的仲裁模式,或者所述多个仲裁单元中的至少一个采用与其他仲裁单元不同的仲裁模式。

17.根据权利要求1所述的人工智能芯片,其特征在于,不同处理单元组中的处理单元通过数据传输线互连并进行数据传输,以协同完成所述计算任务。

18.一种用于集成片上存储器阵列的人工智能芯片的计算任务处理方法,其特征在于,所述人工智能芯片包括多个处理器-存储器模块,所述处理器-存储器模块包括处理单元组、存储器、调度器,所述处理单元组包括多个处理单元,所述调度器连接到所述多个处理单元和所述存储器,所述...

【专利技术属性】
技术研发人员:郑哲赵东艳崔文朋刘羽池颖英孙婉丽李建军贾晓光门浩李鸣李明轩高岩
申请(专利权)人:北京智芯微电子科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1