System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种数据处理设备及方法技术_技高网

一种数据处理设备及方法技术

技术编号:40064843 阅读:16 留言:0更新日期:2024-01-16 23:15
本申请公开了一种数据处理设备及方法,涉及计算机领域,以提高内存访问时间性能。具体方案为:数据处理设备包括处理器、扩展存储装置。扩展存储装置通过CXL接口与处理器连接,该扩展存储装置用于存储处理器的待访问数据;获取扩展存储装置中存储的待访问数据的请求消息配置最高优先级。处理器在接收到处理第一数据的请求消息时,从扩展存储装置中,获取第一数据对应的待访问数据,以处理第一数据。

【技术实现步骤摘要】

本申请涉及计算机领域,尤其涉及一种数据处理设备及方法


技术介绍

1、在计算机数据存储领域,处理器读取数据时,对于时延的要求非常高。为了保证读取数据的时延需求,业界通常将寻址相关的数据存储于内存之外的存储空间。例如,旁路转换缓存(translation lookaside buffer,tlb),它是一个内存管理单元,其本质是一块用于改进虚拟地址到物理地址转换速度的高速缓存,可以有效提高数据读取的时延。

2、在计算机应用过程中,处理器经常存在一些高性能的频繁查表需求的场景,这些场景中时延对于访问性能影响很大。例如,内存访问tlb缓存未命中(cache miss)时,需要先访问内存获取页表,完成虚拟地址到物理地址转换后,再进行物理内存的访问,这样访问时延将增加一次双倍速率(double data rate,ddr)访问(其时延约为62-93纳秒),内存访问时间性能下降明显。在tlb miss率比较高的场景下,例如稀疏内存的访问场景(sparse/graph application),tlb cache存在较高的miss率(20%-40%),内存访问时间性能下降明显。


技术实现思路

1、本申请提供一种数据处理设备及方法,以提高内存访问时间性能。

2、为达到上述目的,本申请实施例采用如下技术方案:

3、第一方面,提供一种数据处理设备,该数据处理设备包括处理器、扩展存储装置。其中,扩展存储装置通过计算快速链路(compute express link,cxl)接口与处理器连接,该扩展存储装置用于存储处理器的待访问数据;处理器用于在接收到处理第一数据的请求消息后,获取第一数据的虚拟地址,并从扩展存储装置中获取待访问数据,该待访问数据用于标识虚拟地址对应的物理地址,处理器还用于根据物理地址读取所述第一数据。

4、通过本申请提供的方案,将处理器的待访问数据,存储于通过cxl接口与处理器连接的扩展存储装置中。由于cxl接口的低时延性能,处理器在读取这些待访问数据时,通过cxl接口从扩展存储装置中读取,即使在频繁访问场景中,也可以低时延的处理数据。因此,本申请的方案很好的提高了内存访问时间性能。

5、一种可能的实现方式,待访问数据为低时延需求的进程的数据。

6、另一种可能的实现方式中,该扩展存储装置可以包括cxl芯片,以及基于cxl芯片扩展的存储空间。扩展的存储空间用于存储上述待访问数据。获取该扩展的存储空间的请求消息配置最高优先级。

7、另一种可能的实现方式中,扩展的存储空间包括cxl芯片内的静态随机存取存储器(static random-access memory,sram)。即,扩展的存储空间为片内存储空间,以节约成本。

8、另一种可能的实现方式中,扩展的存储空间包括cxl芯片连接的片外四倍数据倍率(quad data rate,qdr)系列存储。即,扩展的存储空间为片外存储空间,以实现更大容量的低时延存储。

9、另一种可能的实现方式中,cxl芯片还用于将请求消息配置为最高优先级。保证了这些请求消息的优先处理,更进一步的提高了数据处理时延。

10、另一种可能的实现方式中,数据处理设备还可以包括属性存储单元。属性存储单元用于在数据处理设备的启动引导boot阶段,将扩展存储装置注册至处理器。以使得数据处理设备运行阶段,处理器通过扩展存储装置实现低时延的内存访问。

11、另一种可能的实现方式中,属性存储单元具体用于,将扩展存储装置中用于存储上述待访问数据的存储空间的注册信息,注册至处理器。该注册信息可以包括下述信息中一项或多项:容量、时延、带宽。

12、另一种可能的实现方式中,属性存储单元可以部署于cxl芯片内部,通过软件配置进行刷新。

13、另一种可能的实现方式中,属性存储单元可以部署于cxl芯片外部的非易失性存储。

14、另一种可能的实现方式中,cxl芯片可以包括地址译码器,用于寻址。地址译码器用于处理器的物理地址到扩展的存储空间的物理地址的映射。以便于扩展存储装置在接收到处理器发送的请求消息时,将其转发至对应的扩展的存储空间。

15、另一种可能的实现方式中,上述待访问数据可以为页表,该页表用于处理器的虚拟地址到内存的物理地址的映射。

16、第二方面,提供一种数据处理方法,应用于数据处理设备,该数据处理设备包括处理器、扩展存储装置。扩展存储装置通过cxl接口与处理器连接,扩展存储装置用于存储处理器的待访问数据。该方法可以包括:处理器接收处理第一数据的请求消息;获取第一数据的虚拟地址;然后,处理器从扩展存储装置中获取待访问数据,该待访问数据用于标识虚拟地址对应的物理地址,处理器还用于根据物理地址读取所述第一数据。处理器从扩展存储装置中,获取第一数据对应的待访问数据,以处理第一数据。

17、通过本申请提供的方案,将处理器的待访问数据,存储于通过cxl接口与处理器连接的扩展存储装置中。由于cxl接口的低时延性能,处理器在读取这些待访问数据时,通过cxl接口从扩展存储装置中读取,即使在频繁访问场景中,也可以低时延的处理数据。因此,本申请的方案很好的提高了内存访问时间性能。

18、一种可能的实现方式中,该扩展存储装置可以包括cxl芯片,以及基于cxl芯片扩展的存储空间。扩展的存储空间用于存储上述处理器的待访问数据。获取扩展的存储空间的请求消息配置最高优先级。

19、另一种可能的实现方式中,扩展的存储空间包括cxl芯片内的sram。即,扩展的存储空间为片内存储空间,以节约成本。

20、另一种可能的实现方式中,扩展的存储空间包括cxl芯片连接的片外qdr系列存储。即,扩展的存储空间为片外存储空间,以实现更大容量的低时延存储。

21、另一种可能的实现方式中,该方法还可以包括:在数据处理设备的启动引导boot阶段,将扩展存储装置注册至处理器。以使得数据处理设备运行阶段,处理器通过扩展存储装置实现低时延的内存访问。

22、另一种可能的实现方式中,将扩展存储装置注册至处理器,包括:将扩展存储装置中用于存储处理器的待访问数据的存储空间的注册信息,注册至处理器。该注册信息包括下述信息中一项或多项:容量、时延、带宽。

23、另一种可能的实现方式中,该方法还可以包括:将处理器的物理地址到扩展的存储空间的物理地址的映射。以便于扩展存储装置在接收到处理器发送的请求消息时,将其转发至对应的扩展的存储空间。

24、另一种可能的实现方式中,该方法还可以包括:将访问其存储的处理器的待访问数据的请求消息配置最高优先级,以保证该请求消息对应的数据的访问时延。

25、另一种可能的实现方式中,上述待访问数据可以为页表,该页表用于处理器的虚拟地址到内存的物理地址的映射。

26、第三方面,提供一种计算机可读存储介质,包括指令,当其在计算机上运行时,使得计算机执行上述任一本文档来自技高网...

【技术保护点】

1.一种数据处理设备,其特征在于,所述数据处理设备包括处理器、扩展存储装置;其中:

2.根据权利要求1所述的数据处理设备,其特征在于,所述扩展存储装置包括CXL芯片,以及存储空间;所述存储空间用于存储所述待访问数据。

3.根据权利要求2所述的数据处理设备,其特征在于,所述扩展的存储空间位于所述CXL芯片内,所述存储空间包括静态随机存取存储器SRAM。

4.根据权利要求2所述的数据处理设备,其特征在于,所述扩展的存储空间位于所述CXL芯片外,所述存储空间包括连接的片外四倍数据倍率QDR系列存储。

5.根据权利要求2-4任一项所述的数据处理设备,其特征在于,所述CXL芯片还用于将所述请求消息配置为最高优先级。

6.根据权利要求1-5任一项所述的数据处理设备,其特征在于,所述数据处理设备还包括属性存储单元;

7.根据权利要求1-6任一项所述的数据处理设备,其特征在于,所述待访问数据为页表,所述页表用于保存所述处理器的虚拟地址到内存的物理地址的映射。

8.一种数据处理方法,其特征在于,应用于数据处理设备,所述数据处理设备包括处理器、扩展存储装置;所述扩展存储装置通过计算快速链路CXL接口与所述处理器连接;获取所述待访问数据的请求消息配置最高优先级;所述方法包括:

9.根据权利要求8所述的方法,其特征在于,所述扩展存储装置包括CXL芯片,以及基于所述CXL芯片扩展的存储空间;所述扩展的存储空间用于存储所述待访问数据,获取所述扩展的存储空间的请求消息配置最高优先级。

10.根据权利要求9所述的方法,其特征在于,所述扩展的存储空间包括所述CXL芯片内的静态随机存取存储器SRAM。

11.根据权利要求9所述的方法,其特征在于,所述扩展的存储空间包括所述CXL芯片连接的片外四倍数据倍率QDR系列存储。

12.根据权利要求9-11任一项所述的方法,其特征在于,所述CXL芯片将所述请求消息配置为最高优先级。

13.根据权利要求8-12任一项所述的方法,其特征在于,所述方法还包括:

14.根据权利要求8-13任一项所述的方法,其特征在于,所述待访问数据为页表,所述页表用于保存所述处理器的虚拟地址到内存的物理地址的映射。

...

【技术特征摘要】

1.一种数据处理设备,其特征在于,所述数据处理设备包括处理器、扩展存储装置;其中:

2.根据权利要求1所述的数据处理设备,其特征在于,所述扩展存储装置包括cxl芯片,以及存储空间;所述存储空间用于存储所述待访问数据。

3.根据权利要求2所述的数据处理设备,其特征在于,所述扩展的存储空间位于所述cxl芯片内,所述存储空间包括静态随机存取存储器sram。

4.根据权利要求2所述的数据处理设备,其特征在于,所述扩展的存储空间位于所述cxl芯片外,所述存储空间包括连接的片外四倍数据倍率qdr系列存储。

5.根据权利要求2-4任一项所述的数据处理设备,其特征在于,所述cxl芯片还用于将所述请求消息配置为最高优先级。

6.根据权利要求1-5任一项所述的数据处理设备,其特征在于,所述数据处理设备还包括属性存储单元;

7.根据权利要求1-6任一项所述的数据处理设备,其特征在于,所述待访问数据为页表,所述页表用于保存所述处理器的虚拟地址到内存的物理地址的映射。

8.一种数据处理方法,其特征在于,应用于数据处理设备...

【专利技术属性】
技术研发人员:王运富苏一萌梁永贵
申请(专利权)人:超聚变数字技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1