一种GPGPU二级数据缓存动态旁路方法技术

技术编号:42485854 阅读:21 留言:0更新日期:2024-08-21 13:04
本发明专利技术涉及数据存储技术领域,特别涉及一种GPGPU二级数据缓存动态旁路方法。该GPGPU二级数据缓存动态旁路方法,基于缓存块复用信息和预测机制,当缓存块从全局存储器填充至二级数据缓存器时,将加载(Load)指令的地址位保存至缓存块;为每个缓存块添加复用计数位C;当复用计数位C超过自定义阈值时,将对应缓存块中的指令地址位保存到预测表中;再次发现相同的请求指令出现二级数据缓存器缺失时,表明查询预测表匹配成功,且缓存块从全局存储器旁路至一级数据缓存器。该GPGPU二级数据缓存动态旁路方法,通过使复用性高的缓存块绕过低级的缓存,增加了访存命中率,减少了访存延时,大大提高了访存效率。

【技术实现步骤摘要】

本专利技术涉及数据存储学,特别涉及一种gpgpu二级数据缓存动态旁路方法。


技术介绍

1、gpgpu(通用图形处理单元)是一类高性能计算技术,它利用图形处理单元(gpu)来执行通常由中央处理单元(cpu)负责的非图形计算任务。

2、随着计算机图形学、科学计算和机器学习等领域对高性能计算需求的增加,gpgpu作为高度并行的处理器得到了广泛应用。单指令多线程的高度并发特点极大地提升了数据处理效率,但是大量的计算操作也对访存效率提出更高的要求。

3、传统的访存优化方法是通过线程调度策略隐藏不同计算过程之间的访存操作,如果计算过程的时间太短,则对访存时间的隐藏效果不佳。

4、众所周知,gpgpu的多级存储架构主要有寄存器文件、一级数据缓存和共享存储、二级数据缓存以及全局存储四种结构组成,访存效率的顺序由高到低,因此让数据存储在更高一级的缓存结构中将增大访存命中率,减少访存延时,大大提高访存效率。

5、基于上述情况,本专利技术提出了一种gpgpu二级数据缓存动态旁路方法。


>技术实现思路...

【技术保护点】

1.一种GPGPU二级数据缓存动态旁路方法,其特征在于:基于缓存块复用信息和预测机制,包括以下步骤:

2.根据权利要求1所述的GPGPU二级数据缓存动态旁路方法,其特征在于:所述步骤S01中,初始冷启动下,预测表为空且无任何信息;

3.根据权利要求2所述的GPGPU二级数据缓存动态旁路方法,其特征在于:当两个缓存块被替换算法先后从二级数据缓存器中逐出时,检测缓存块的复用信息,并根据复用计数器的值来动态决定是否将对应缓存块的地址信息保存到预测表:

4.根据权利要求3所述的GPGPU二级数据缓存动态旁路方法,其特征在于:当再次发现一条加载指令请求访问二级数...

【技术特征摘要】

1.一种gpgpu二级数据缓存动态旁路方法,其特征在于:基于缓存块复用信息和预测机制,包括以下步骤:

2.根据权利要求1所述的gpgpu二级数据缓存动态旁路方法,其特征在于:所述步骤s01中,初始冷启动下,预测表为空且无任何信息;

3.根据权利要求2所述的gpgpu二级数据缓存动态旁路方法,其特征在于:当两个缓存块被替换算法先后从二级数据缓存器中逐出时,检测缓存块的复用信息,并根据复用计数器的值来动态决定是否将对应缓存块的地址信息保存到预测表:

4.根据权利要求3所述的gpgpu二级数据缓存动态旁路方法,其特征在于:当再次发现一条加载指令请求访问二级数据缓存器出现缺失时,如果预测表中保存有指令a的地址,则加载指令与指令a请求匹配成功,来自主存的缓存块通过旁路策略被直接填充至一级数据缓存器中。

5.一种gpgpu二级数据缓存动态旁路装置,其特征在于:包括缓存块复用管理模块,缓存块填充模块,预测表模块和缓存块旁路模块;

6.根据权利要求5所述的gpgpu二级数据缓存动态旁...

【专利技术属性】
技术研发人员:陈建新王帅赵鑫鑫姜凯
申请(专利权)人:山东浪潮科学研究院有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1