System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 数据处理器、数据处理方法、电子设备和存储介质技术_技高网

数据处理器、数据处理方法、电子设备和存储介质技术

技术编号:41303881 阅读:5 留言:0更新日期:2024-05-13 14:50
一种数据处理器、数据处理方法、电子设备和非瞬时性计算机可读存储介质。该数据处理器包括N级缓存、内存和N级数据代理模块,其中,N级数据代理模块中的各级数据代理模块与N级缓存中的各级缓存一一对应,N级数据代理模块配置为获取数据处理器当前执行的任务中的数据访存指令序列,根据数据访存指令序列中各个数据访存指令的目的数据的存储位置,调整数据访存指令序列的指令发送顺序,按照指令发送顺序依次发送各个数据访存指令,并将各个数据访存指令返回的目的数据缓存至相应的第1级数据代理模块中。该数据处理器降低了寄存器的占用时间,避免了存储位置远的数据访存指令挤压了存储位置近的数据访存指令的带宽,极大提升了数据访存效率。

【技术实现步骤摘要】

本公开的实施例涉及一种数据处理器、数据处理方法、电子设备和非瞬时性计算机可读存储介质。


技术介绍

1、数据访存指令(例如load指令)是计算机组成原理中的一种基本指令,用于从内存等存储部件中将数据加载到寄存器中,作用是将内存等存储部件中的数据读取到指定的寄存器中,以便后续的运算和处理。数据访存指令执行时,需要指定要读取的地址,将读取到的数据存储到目标寄存器中。以读取的数据在内存中为例,数据访存指令通常包括以下几个步骤:

2、1、将内存地址加载到地址寄存器(memory address register,简称mar)中;

3、2、将内存的数据加载到数据寄存器(memory data register,简称mdr)中;

4、3、将数据从mdr传输到目标寄存器。


技术实现思路

1、本公开至少一实施例提供一种数据处理器,包括n级缓存和内存,所述n级缓存中的第i级缓存包括至少1个i级缓存节点,所述至少1个i级缓存节点中的至少部分i级缓存节点共享一个i+1级缓存节点,n为大于1的正整数,i为1至n-1之间的任意正整数,所述n级缓存中的第n级缓存与所述内存电连接,每个1级缓存节点与对应的计算核电连接,所述数据处理器还包括n级数据代理模块,其中,所述n级数据代理模块中的各级数据代理模块与所述n级缓存中的各级缓存一一对应,所述n级数据代理模块配置为获取所述数据处理器当前执行的任务中的数据访存指令序列,根据所述数据访存指令序列中各个数据访存指令的目的数据在所述内存中的存储位置,调整所述数据访存指令序列的指令发送顺序,按照所述指令发送顺序依次发送所述各个数据访存指令,并将所述各个数据访存指令返回的目的数据缓存至相应的第1级数据代理模块中,其中,所述相应的第1级数据代理模块对应第1级缓存。

2、例如,在本公开至少一实施例提供的数据处理器中,所述n级数据代理模块执行根据所述数据访存指令序列中各个数据访存指令的目的数据在所述内存中的存储位置,调整所述数据访存指令序列的指令发送顺序时,包括执行以下操作:获取每个数据访存指令对应的物理距离,其中,每个数据访存指令对应的物理距离为每个数据访存指令的目的数据在所述内存中的存储位置和所述数据处理器中的计算核之间的距离;根据所述各个数据访存指令对应的物理距离,调整所述数据访存指令序列的指令发送顺序,其中,对应的物理距离越小的数据访存指令的发送时间越早。

3、例如,在本公开至少一实施例提供的数据处理器中,所述n级数据代理模块执行根据所述各个数据访存指令对应的物理距离,调整所述数据访存指令序列的指令发送顺序时,包括执行以下操作:根据所述各个数据访存指令对应的物理距离,将所述各个数据访存指令分类至不同的通道,其中,不同通道中的数据访存指令对应的物理距离不同;按照不同通道中的数据访存指令对应的物理距离从小到大的顺序,以通道为单位排列各个通道中的数据访存指令,得到所述指令发送顺序,其中,在所述指令发送顺序中,属于第一通道的数据访存指令最先发送,属于第二通道的数据访存指令最后发送,属于同一个通道的数据访存指令按照在所述数据访存指令序列中的相对顺序关系串行发送,所述第一通道中的数据访存指令对应的物理距离最小,所述第二通道中的数据访存指令对应的物理距离最大。

4、例如,在本公开至少一实施例提供的数据处理器中,所述n级数据代理模块执行根据所述数据访存指令序列中各个数据访存指令的目的数据在所述内存中的存储位置,调整所述数据访存指令序列的指令发送顺序,包括执行以下操作:获取每个数据访存指令的优先级;获取每个数据访存指令对应的物理距离,其中,每个数据访存指令对应的物理距离为每个数据访存指令的目的数据在所述内存中的存储位置和所述数据处理器中的计算核之间的距离;根据所述各个数据访存指令的优先级和对应的物理距离,调整所述数据访存指令序列的指令发送顺序,其中,优先级越高的数据访存指令的发送时间越早,在相同优先级的情况下,对应的物理距离越小的数据访存指令的发送时间越早。

5、例如,在本公开至少一实施例提供的数据处理器中,所述n级数据代理模块执行获取每个数据访存指令的优先级,包括执行以下操作:根据在预运行所述任务时所述各个数据访存指令返回目的数据的时间,确定每个数据访存指令的优先级,其中,在预运行所述任务时,按照所述数据访存指令序列中的顺序依次发送所述各个数据访存指令,并收集所述各个数据访存指令返回目的数据的时间。

6、例如,在本公开至少一实施例提供的数据处理器中,所述n级数据代理模块执行将所述各个数据访存指令返回的目的数据缓存至相应的第1级数据代理模块中时,包括执行以下操作:针对每个数据访存指令,将所述数据访存指令返回的目的数据缓存至与使用所述目的数据的计算核电连接的1级缓存节点或共享内存中,其中,所述相应的第1级数据代理模块包括多个缓存块,所述多个缓存块映射至所述1级缓存节点或所述共享内存,所述多个缓存块用于缓存接收的所述目的数据。

7、例如,在本公开至少一实施例提供的数据处理器中,所述至少1个i级缓存节点与至少1个第i级数据代理模块一一对应,所述至少部分i级缓存节点分别对应的第i级数据代理模块与所述一个i+1级缓存节点对应的第i+1级数据代理模块电连接,每个1级缓存节点对应的第1级数据代理模块与至少一个计算核电连接,其中,所述至少一个计算核与所述1级缓存节点电连接;所述第n级缓存对应的第n级数据代理模块与所述内存电连接。

8、例如,在本公开至少一实施例提供的数据处理器中,每个数据代理模块包括调度器、请求状态列表、数据请求列表以及多个缓存块,所述数据代理模块包括任一个第i级数据代理模块或所述第n级数据代理模块,所述数据请求列表用于缓存待发送的数据访存指令,所述调度器用于按照所述指令发送顺序依次发送所述数据请求列表中缓存的数据访存指令,以及将接收的目的数据发送至相应的计算核或电连接的上一级数据代理模块中的缓存块,所述请求状态列表包括多个状态项,其中,所述多个状态项中的每个状态项用于指示所述状态项对应的数据访存指令关联的缓存块、所述数据访存指令在所述指令发送顺序中的位置,所述多个缓存块用于缓存接收的目的数据。

9、例如,在本公开至少一实施例提供的数据处理器中,所述数据代理模块的数据请求列表中设置有多个通道以用于缓存所述待发送的数据访存指令,不同通道中的数据访存指令对应的物理距离不同,所述调度器配置为按照不同通道中的数据访存指令对应的物理距离从小到大的顺序,以通道为单位排列各个通道中的数据访存指令,得到所述数据请求列表中缓存的数据访存指令的指令发送顺序,按照所述指令发送顺序依次发送所述待发送的数据访存指令,其中,每个数据访存指令对应的物理距离为每个数据访存指令的目的数据在所述内存中的存储位置和所述数据处理器中的计算核之间的距离,每个数据访存指令对应的物理距离通过每个数据访存指令中作为输入参数的目的数据的读取地址确定。

10、例如,在本公开至少一实施例提供的数据处理器中,所述数据代理模块配置为:响本文档来自技高网...

【技术保护点】

1.一种数据处理器,包括N级缓存和内存,所述N级缓存中的第i级缓存包括至少1个i级缓存节点,所述至少1个i级缓存节点中的至少部分i级缓存节点共享一个i+1级缓存节点,N为大于1的正整数,i为1至N-1之间的任意正整数,

2.根据权利要求1所述的数据处理器,其中,所述N级数据代理模块执行根据所述数据访存指令序列中各个数据访存指令的目的数据在所述内存中的存储位置,调整所述数据访存指令序列的指令发送顺序时,包括执行以下操作:

3.根据权利要求2所述的数据处理器,其中,所述N级数据代理模块执行根据所述各个数据访存指令对应的物理距离,调整所述数据访存指令序列的指令发送顺序时,包括执行以下操作:

4.根据权利要求2所述的数据处理器,其中,所述N级数据代理模块执行根据所述数据访存指令序列中各个数据访存指令的目的数据在所述内存中的存储位置,调整所述数据访存指令序列的指令发送顺序,包括执行以下操作:

5.根据权利要求4所述的数据处理器,其中,所述N级数据代理模块执行获取每个数据访存指令的优先级,包括执行以下操作:

6.根据权利要求1所述的数据处理器,其中,所述N级数据代理模块执行将所述各个数据访存指令返回的目的数据缓存至相应的第1级数据代理模块中时,包括执行以下操作:

7.根据权利要求1-6任一项所述的数据处理器,其中,所述至少1个i级缓存节点与至少1个第i级数据代理模块一一对应,所述至少部分i级缓存节点分别对应的第i级数据代理模块与所述一个i+1级缓存节点对应的第i+1级数据代理模块电连接,

8.根据权利要求7所述的数据处理器,其中,每个数据代理模块包括调度器、请求状态列表、数据请求列表以及多个缓存块,所述数据代理模块包括任一个第i级数据代理模块或所述第N级数据代理模块,

9.根据权利要求8所述的数据处理器,其中,所述数据请求列表中设置有多个通道以用于缓存所述待发送的数据访存指令,不同通道中的数据访存指令对应的物理距离不同,

10.根据权利要求8所述的数据处理器,其中,所述数据代理模块配置为:

11.根据权利要求10所述的数据处理器,其中,每个缓存块具有唯一对应的缓存块编号,所述数据请求列表中的每个数据访存指令具有唯一对应的请求编号,

12.根据权利要求8所述的数据处理器,其中,所述第i+1级数据代理模块还配置为:

13.根据权利要求8所述的数据处理器,其中,所述第N级数据代理模块的调度器配置为:

14.根据权利要求8所述的数据处理器,其中,与所述至少部分i级缓存节点中的任一个i级缓存节点对应的第i级数据代理模块的调度器配置为:

15.根据权利要求8所述的数据处理器,其中,所述第1级数据代理模块还配置为:

16.根据权利要求15所述的数据处理器,其中,所述第1级数据代理模块执行对所述至少一个数据访存指令执行初始化操作时,包括执行以下操作:

17.根据权利要求8所述的数据处理器,其中,所述第1级数据代理模块还配置为:

18.根据权利要求8所述的数据处理器,其中,

19.根据权利要求8所述的数据处理器,其中,在执行所述任务前,所述数据处理器还配置为:

20.根据权利要求1-6任一项所述的数据处理器,其中,所述数据访存指令序列通过将所述任务中的所有数据访存指令按照在所述任务对应的程序中出现的先后位置关系进行排列得到。

21.根据权利要求7所述的数据处理器,其中,所述数据处理器为通用图形处理器或图形处理器,所述数据处理器包括多个计算单元,

22.一种数据处理方法,用于包括N级缓存和内存的数据处理器,

23.根据权利要求22所述的数据处理方法,其中,根据所述数据访存指令序列中各个数据访存指令的目的数据在所述内存中的存储位置,调整所述数据访存指令序列的指令发送顺序,包括:

24.根据权利要求22所述的数据处理方法,其中,根据所述数据访存指令序列中各个数据访存指令的目的数据在所述内存中的存储位置,调整所述数据访存指令序列的指令发送顺序,包括:

25.一种电子设备,包括:

26.一种非瞬时性计算机可读存储介质,其中,所述非瞬时性计算机可读存储介质存储有计算机可执行指令,

27.一种电子设备,包括根据权利要求1-21中任一项所述的数据处理器。

...

【技术特征摘要】

1.一种数据处理器,包括n级缓存和内存,所述n级缓存中的第i级缓存包括至少1个i级缓存节点,所述至少1个i级缓存节点中的至少部分i级缓存节点共享一个i+1级缓存节点,n为大于1的正整数,i为1至n-1之间的任意正整数,

2.根据权利要求1所述的数据处理器,其中,所述n级数据代理模块执行根据所述数据访存指令序列中各个数据访存指令的目的数据在所述内存中的存储位置,调整所述数据访存指令序列的指令发送顺序时,包括执行以下操作:

3.根据权利要求2所述的数据处理器,其中,所述n级数据代理模块执行根据所述各个数据访存指令对应的物理距离,调整所述数据访存指令序列的指令发送顺序时,包括执行以下操作:

4.根据权利要求2所述的数据处理器,其中,所述n级数据代理模块执行根据所述数据访存指令序列中各个数据访存指令的目的数据在所述内存中的存储位置,调整所述数据访存指令序列的指令发送顺序,包括执行以下操作:

5.根据权利要求4所述的数据处理器,其中,所述n级数据代理模块执行获取每个数据访存指令的优先级,包括执行以下操作:

6.根据权利要求1所述的数据处理器,其中,所述n级数据代理模块执行将所述各个数据访存指令返回的目的数据缓存至相应的第1级数据代理模块中时,包括执行以下操作:

7.根据权利要求1-6任一项所述的数据处理器,其中,所述至少1个i级缓存节点与至少1个第i级数据代理模块一一对应,所述至少部分i级缓存节点分别对应的第i级数据代理模块与所述一个i+1级缓存节点对应的第i+1级数据代理模块电连接,

8.根据权利要求7所述的数据处理器,其中,每个数据代理模块包括调度器、请求状态列表、数据请求列表以及多个缓存块,所述数据代理模块包括任一个第i级数据代理模块或所述第n级数据代理模块,

9.根据权利要求8所述的数据处理器,其中,所述数据请求列表中设置有多个通道以用于缓存所述待发送的数据访存指令,不同通道中的数据访存指令对应的物理距离不同,

10.根据权利要求8所述的数据处理器,其中,所述数据代理模块配置为:

11.根据权利要求10所述的数据处理器,其中,每个缓存块具有唯一...

【专利技术属性】
技术研发人员:请求不公布姓名请求不公布姓名请求不公布姓名请求不公布姓名请求不公布姓名
申请(专利权)人:北京壁仞科技开发有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1