System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种缓存数据预取方法、处理器及电子设备技术_技高网

一种缓存数据预取方法、处理器及电子设备技术

技术编号:41364417 阅读:2 留言:0更新日期:2024-05-20 10:12
本申请涉及一种缓存数据预取方法、处理器及电子设备,属于计算机领域。该缓存数据预取方法包括:在缓存数据预取过程中,获取预取数据的预取准确率;基于所述预取准确率判断是否需要从当前预取模式切换至其他预取模式;在为是时,从当前预取模式切换至其他预取模式。本申请基于预取准确率判断是否需要从当前预取模式切换至其他预取模式,支持根据预取准确度实时切换缓存数据预取模式,例如,在第一预取模式和第二预取模式中切换,能有效提高带宽利用率和执行效率,实现通过优化缓存数据预取模式来提升处理器性能的目的。

【技术实现步骤摘要】

本申请属于计算机领域,具体涉及一种缓存数据预取方法、处理器及电子设备


技术介绍

1、为了加速数据访问,通过会将一些频繁被访问的数据从外部存储器中备份到高速缓存中。当处理器发送访问外部存储器的访问请求(读数据)时,处理器先从高速缓存中查找是否有数据备份。如果高速缓存中有数据备份,处理器可以直接访问高速缓存中的数据。将经常被访问的数据从外部存储器中备份到高速缓存中时,备份的数据包括数据本身和请求访问的地址(也被称为标签)。如果后续访问请求中的地址和高速缓存里的标签相同,称为缓存命中,如果访问请求中的地址和高速缓存里的标签相同不相同,称为缓存未命中。

2、为了进一步提高数据访问效率,提出了缓存数据预取方法,预取是在真正发送访问请求之前,提前将数据从比较慢的外部存储器中提取到较快的缓存中,例如l1缓存等,从而提高访问速度。然而,数据预取也存在一些潜在的问题,如预取的数据并没有被实际使用到会导致占用很多的缓存空间,增加处理器的缓存带宽,降低性能。


技术实现思路

1、鉴于此,本申请的目的在于提供一种缓存数据预取方法、处理器及电子设备,以通过优化缓存数据预取模式来提升处理器性能。

2、本申请的实施例是这样实现的:

3、第一方面,本申请实施例提供了一种缓存数据预取方法,包括:在缓存数据预取过程中,获取预取数据的预取准确率;基于所述预取准确率判断是否需要从当前预取模式切换至其他预取模式;在为是时,从当前预取模式切换至其他预取模式。

4、在上述实施例中,基于预取准确率判断是否需要从当前预取模式切换至其他预取模式,支持根据预取准确度实时切换缓存数据预取模式,例如,在第一预取模式和第二预取模式中切换,能有效提高带宽利用率和执行效率,实现通过优化缓存数据预取模式来提升处理器性能的目的。

5、结合第一方面实施例的一种可能的实施方式,从当前预取模式切换至其他预取模式,包括:若当前预取模式为第一预取模式,则从当前预取模式切换至第二预取模式;若当前预取模式为第二预取模式,则从当前预取模式切换至第一预取模式;其中,所述第一预取模式预取的数据包括:数据本体和数据本体对应的标签地址;所述第二预取模式预取的数据包括:数据本体对应的标签地址。

6、在上述实施例中,支持根据预取准确度实时切换缓存数据预取模式,例如,当预取准确度小于预设阈值时,从当前预取模式切换成第二预取模式,通过不预取数据的方式,改善存储带宽被无效数据大量占用从而影响性能的问题,但是又不是简单直接关闭预取功能,较大化利用带宽使用率。当预取准确度大于等于预设阈值时,从当前预取模式切换成第一预取模式,将数据和标签提前预取出来,由于预取准确率很高,能大量减少访问延迟,提高性能。

7、结合第一方面实施例的一种可能的实施方式,获取预取数据的预取准确率,包括:获取指定数量的预取数据中被访问的预取数据的第一数量;根据所述第一数量和所述指定数量,获取预取数据的预取准确率。

8、在上述实施例中,通过获取指定数量的预取数据中被访问的预取数据的第一数量,来计算预取准确率,这样可以快速得到预取准确率,从而保证了可以根据预取准确度实时切换缓存数据预取模式。

9、结合第一方面实施例的一种可能的实施方式,获取预取数据的预取准确率,包括:获取指定时间段内被访问的预取数据的第一数量,以及指定时间段内的所有预取数据的第二数量;根据所述第一数量和所述第二数量,获取预取数据的预取准确率。

10、在上述实施例中,通过获取指定时间段内被访问的预取数据的第一数量,以及指定时间段内的所有预取数据的第二数量,这样可以快速得到预取准确率,从而保证了可以根据预取准确度实时切换缓存数据预取模式。

11、结合第一方面实施例的一种可能的实施方式,所述方法还包括:若当前预取模式为第一预取模式,获取缓存结构中dram的带宽使用率;在所述带宽使用率大于等于带宽阈值的情况下,从当前预取模式切换至第二预取模式;其中,所述第一预取模式预取的数据包括:数据本体和数据本体对应的标签地址;所述第二预取模式预取的数据包括:数据本体对应的标签地址。

12、在上述实施例中,若当前预取模式为第一预取模式,则通过获取缓存结构中dram(dynamic random access memory,动态随机存储器)的带宽使用率,若带宽使用率大于等于带宽阈值(可配置)的情况下,从当前预取模式切换至第二预取模式,防止访问dram缓存的请求被延长,从而提高处理的访问性能。

13、第二方面,本申请实施例还提供了一种处理器,包括:内核以及预取处理器;内核被配置为发送缓存数据预取请求;预取处理器与所述内核连接;所述预取处理器被配置为响应所述缓存数据预取请求进行缓存数据预取,并在缓存数据预取过程中,获取预取数据的预取准确率,基于所述预取准确率判断是否需要从当前预取模式切换至其他预取模式;在为是时,从当前预取模式切换至其他预取模式。

14、在上述实施例中,基于预取准确率判断是否需要从当前预取模式切换至其他预取模式,支持根据预取准确度实时切换缓存数据预取模式,例如,在第一预取模式和第二预取模式中切换,能有效提高带宽利用率和执行效率,实现通过优化缓存数据预取模式来提升处理器性能的目的。

15、结合第二方面实施例的一种可能的实施方式,若当前预取模式为第一预取模式,且所述预取准确率小于预设阈值时,所述预取处理器被配置为从第一预取模式切换至第二预取模式;若当前预取模式为第二预取模式,且所述预取准确率大于等于预设阈值时,所述预取处理器被配置为从第二预取模式切换至第一预取模式;其中,所述第一预取模式预取的数据包括:数据本体和数据本体对应的标签地址;所述第二预取模式预取的数据包括:数据本体对应的标签地址。

16、在上述实施例中,支持根据预取准确度实时切换缓存数据预取模式,例如,当预取准确度小于预设阈值时,从当前预取模式切换成第二预取模式,通过不预取数据的方式,改善存储带宽被无效数据大量占用从而影响性能的问题,但是又不是简单直接关闭预取功能,较大化利用带宽使用率。当预取准确度大于等于预设阈值时,从当前预取模式切换成第一预取模式,将数据和标签提前预取出来,由于预取准确率很高,能大量减少访问延迟,提高性能。

17、结合第二方面实施例的一种可能的实施方式,所述处理器还包括:与所述预取处理器连接的缓存结构,所述缓存结构包括dram和与dram连接的多级缓存;所述预取处理器还被配置为在基于第一预取模式预取数据时,逐级在多级缓存中查找与所述缓存数据预取请求携带的预取标签命中的标签,若有缓存命中,将所述预取标签和所述预取标签对应的数据逐级返回并存储到所述多级缓存中的最低级别缓存;若所有的缓存均未命中,从所述dram获取所述预取标签对应的数据,并将所述预取标签和所述预取标签对应的数据逐级返回并存储到所述多级缓存中的最低级别缓存。

18、在上述实施例中,在第一预取模式下,采用逐级在多级缓存中查找与缓存数据预取请求携带本文档来自技高网...

【技术保护点】

1.一种缓存数据预取方法,其特征在于,包括:

2.根据权利要求1所述的缓存数据预取方法,其特征在于,从当前预取模式切换至其他预取模式,包括:

3.根据权利要求1或2所述的缓存数据预取方法,其特征在于,获取预取数据的预取准确率,包括:

4.根据权利要求1或2所述的缓存数据预取方法,其特征在于,获取预取数据的预取准确率,包括:

5.根据权利要求1所述的缓存数据预取方法,其特征在于,所述方法还包括:

6.一种处理器,其特征在于,包括:

7.根据权利要求6所述的处理器,其特征在于,

8.根据权利要求7所述的处理器,其特征在于,所述处理器还包括:与所述预取处理器连接的缓存结构,所述缓存结构包括DRAM和与DRAM连接的多级缓存;

9.根据权利要求8所述的处理器,其特征在于,所述缓存结构还包括与DRAM连接的标签缓存;所述预取处理器还被配置为在基于第二预取模式预取数据时,直接在所述DRAM中查找与所述预取标签命中的标签,若有标签命中,直接将所述预取标签存储到所述标签缓存。

10.根据权利要求9所述的处理器,其特征在于,所述处理器还包括内存控制器,所述内存控制器被配置为响应所述内核发送的访问请求,逐级在所述多级缓存中查找与所述访问请求携带的目标标签命中的标签,若没有缓存命中,查找标签缓存中与所述目标标签命中的标签,若有标签命中,直接从所述DRAM中获取与所述目标标签对应的数据。

11.一种电子设备,其特征在于,包括本体和如权利要求6-10中任一项所述的处理器。

...

【技术特征摘要】

1.一种缓存数据预取方法,其特征在于,包括:

2.根据权利要求1所述的缓存数据预取方法,其特征在于,从当前预取模式切换至其他预取模式,包括:

3.根据权利要求1或2所述的缓存数据预取方法,其特征在于,获取预取数据的预取准确率,包括:

4.根据权利要求1或2所述的缓存数据预取方法,其特征在于,获取预取数据的预取准确率,包括:

5.根据权利要求1所述的缓存数据预取方法,其特征在于,所述方法还包括:

6.一种处理器,其特征在于,包括:

7.根据权利要求6所述的处理器,其特征在于,

8.根据权利要求7所述的处理器,其特征在于,所述处理器还包括:与所述预取处理器连接的缓存结构,所述缓存结构包括dram和与dram...

【专利技术属性】
技术研发人员:傅丽丽
申请(专利权)人:海光信息技术成都有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1