基于指令的数据处理装置、方法、终端设备和存储介质制造方法及图纸

技术编号:42611225 阅读:19 留言:0更新日期:2024-09-03 18:18
本申请属于神经网络技术领域,尤其涉及一种基于指令的数据处理装置、方法、终端设备和存储介质。在该装置中,指令序列模块,包括多个数据处理指令;数据模块,用于存储数据;数据处理模块,与数据模块之间通过多个数据线连接,配置为基于指令序列模块中的多个数据处理指令进行数据处理并与数据模块进行通讯;其中,当位于多个数据处理指令中预设位置的数据处理指令为边界指令时,在该多个数据线均空闲的情况下读取预设位置的数据处理指令。该装置不仅具有较快的数据搬运速度,还能够保证神经网络加速器对数据的上层控制逻辑不紊乱。

【技术实现步骤摘要】

本申请属于神经网络,尤其涉及一种基于指令的数据处理装置、方法、终端设备和存储介质


技术介绍

1、神经网络加速器在进行计算的过程中,通常需要进行若干基于指令的数据处理,例如,数据搬运处理或者基于计算核心的数据计算。在数据处理过程中,神经网络加速器通常需要执行若干条指令通过数据总线将数据搬运目标位置,例如,将数据从外部存储模块搬运到内部缓存模块,以便计算模块从内部缓存中读取数据。或者,将数据从内部缓存模块的输入端搬运至计算模块,以便计算模块进行计算等。但是,受限于数据总线的带宽,数据搬运速度往往较低,具有多个指令重复执行单元的模块间的数据传输处理较慢,影响神经网络加速器的运行速度。


技术实现思路

1、本申请实施例提供一种基于指令的数据处理装置、方法、终端设备和存储介质,用于解决目前神经网络加速器的数据处理速度较低的问题。

2、第一方面,本申请实施例提供一种基于指令的数据处理装置,该装置应用于神经网络加速器,包括:

3、指令序列模块,包括多个数据处理指令。

4、数据模块,用于存本文档来自技高网...

【技术保护点】

1.一种基于指令的数据处理装置,其特征在于,应用于神经网络加速器,所述数据处理装置包括:

2.根据权利要求1所述的装置,其特征在于,所述数据处理模块基于所述多个数据处理指令进行数据处理并与所述数据模块进行通讯,包括:

3.根据权利要求1所述的装置,其特征在于,所述数据处理模块在所有数据线均空闲的情况下读取所述预设位置的数据处理指令之后,还配置为:在所述预设位置的所述数据处理指令执行完成之后获取下一条所述数据处理指令。

4.根据权利要求2所述的装置,其特征在于,所述数据模块包括第一数据模块和第二数据模块,所述第一数据模块和所述第二数据模块之间通过基于所述...

【技术特征摘要】

1.一种基于指令的数据处理装置,其特征在于,应用于神经网络加速器,所述数据处理装置包括:

2.根据权利要求1所述的装置,其特征在于,所述数据处理模块基于所述多个数据处理指令进行数据处理并与所述数据模块进行通讯,包括:

3.根据权利要求1所述的装置,其特征在于,所述数据处理模块在所有数据线均空闲的情况下读取所述预设位置的数据处理指令之后,还配置为:在所述预设位置的所述数据处理指令执行完成之后获取下一条所述数据处理指令。

4.根据权利要求2所述的装置,其特征在于,所述数据模块包括第一数据模块和第二数据模块,所述第一数据模块和所述第二数据模块之间通过基于所述多个数据线形成的m个数据链路通讯连接,m≥2,其中:

5.根据权利要求4所述的装置,其特征在于,所述数据处理模块根据所述数据处理指令在所述第一数据模块和第二数据模块之间进行通讯,包括:

6.根据权利要求5所述的装置,其特征在于,所述数据链路包括第一子链路和第二子链路,

7.根据权利要求5所述的装置,其特征在于,所述数据处理模块为数据搬运模块,所述数据处理指令为数据搬运指令,所述第一数据模块为外部存储模块,所述第二数据模块为内部缓存模块,且所述内部缓存模块中设有多个缓存单元,所述数据搬运指令与所述多个缓存单元中的目标缓存单元对应,其中:

8.根据权利要求7所述的装置,其特征在于,还包括仲裁模块,连接于所述外部存储模块与所述内部缓存模块之间,对应于所述m个数据链路,实现所述指令序列模块中指令与所述目标缓存单元的匹配。

9.根据权利要求8所述的装置,其特征在于,所述数据搬运模块基于所述仲裁...

【专利技术属性】
技术研发人员:柳铭哲卢天宇汪小勇何金杭圣超
申请(专利权)人:上海思特威集成电路有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1