一种应对非规则访存的数据预取器制造技术

技术编号:41576720 阅读:26 留言:0更新日期:2024-06-06 23:54
一种应对非规则访存的数据预取器,包括:访问索引表、访问目标表、差分匹配模块、索引队列、间接访问候选记分牌、地址生成器、间接访问关系表、预取状态处理寄存器、重复过滤器、连续地址过滤器和范围预取表,该数据预取器用于监听计算核心与第一级缓存、第一级缓存和第二级缓存之间的访问请求和数据响应的事件。该数据预取器可应用在各类采用层级存储设计的通用计算架构中,实现对非规则间接访问的模式捕获和数据预取,减少非规则访存带来的长延时存储访问开销,提高计算架构的每周期执行指令数(IPC)。

【技术实现步骤摘要】

本公开属于处理器和缓存,特别涉及一种应对非规则访存的数据预取器


技术介绍

1、在当前的图计算、稀疏线性代数计算等应用当中,存储访问墙是一个关键的瓶颈。这种瓶颈主要是由非规则的访存造成的,即需要访问的数据地址是随机无规律的。这种无规律性质造成了数据空间局部性的丧失,使得缓存(cache)结构无法发挥其作用,具体表现为缓存未命中(cache miss)的数量很大,数据最终还是要经过长延时从片上网络或者内存(dram)中获取。在非规则访存中,最常见的是以x[a[i]]形式出现的间接访问模式。

2、目前主流的cpu使用预取器来预测未来可能被访问的数据地址并提前将数据放入缓存中,以隐藏数据访问的长延时。但是这些预取器往往是流式预取器,通过捕获有规律的、流式的访存模式来进行预取。然而,流式预取器不管是从设计原理上还是从实际效果上看,都无法适应间接访问模式。虽然现有技术可以通过捕获对索引数据的流式访问来帮助对间接访问的预测,但是采用这类设计思路的硬件预取器只能适用于索引数据定序访问的情况,并不能很好的应用于乱序多发射设计的现代cpu上。


<本文档来自技高网...

【技术保护点】

1.一种应对非规则访存的数据预取器,包括:

2.根据权利要求1所述的数据预取器,其中,优选的,

3.根据权利要求1所述的数据预取器,其中,

4.根据权利要求1所述的数据预取器,其中,

5.根据权利要求1所述的数据预取器,其中,

6.根据权利要求1所述的数据预取器,其中,

7.根据权利要求1所述的数据预取器,其中,

8.根据权利要求1所述的数据预取器,其中,

9.根据权利要求1所述的数据预取器,其中,

10.根据权利要求1所述的数据预取器,其中,

【技术特征摘要】

1.一种应对非规则访存的数据预取器,包括:

2.根据权利要求1所述的数据预取器,其中,优选的,

3.根据权利要求1所述的数据预取器,其中,

4.根据权利要求1所述的数据预取器,其中,

5.根据权利要求1所述的数据预取器,其中,

【专利技术属性】
技术研发人员:夏天付格林罗中沛赵文哲任鹏举
申请(专利权)人:西安交通大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1