用于页面-局部基于增量的预取器的方法和装置制造方法及图纸

本发明专利技术公开了一种方法，该方法包括：记录第一组连续存储器访问增量，其中这些连续存储器访问增量中的每个连续存储器访问增量表示由应用程序访问的两个存储器地址之间的差；基于该第一组存储器访问增量来更新预取训练表中的值；以及响应于第二组连续存储器访问增量并且基于该预取训练表中的值来预测用于预取的一个或多个存储器地址。的一个或多个存储器地址。的一个或多个存储器地址。

【技术实现步骤摘要】
【国外来华专利技术】用于页面
‑
局部基于增量的预取器的方法和装置
[0001]相关申请
[0002]本申请要求2020年6月26日提交的美国临时申请第63/044,468号的优先权，该申请全文以引用方式并入本文。
[0003]政府权利
[0004]本专利技术是在政府的支持下基于具有由DOE授予的劳伦斯利弗莫尔国家安全的PathForward项目(基本合同No.DE
‑
AC52
‑
07NA27344，分包合同No.B620717)完成的。政府享有本专利技术的某些权利。

技术介绍

[0005]现代计算系统中的处理器通常可比存储处理器所使用的指令或其他数据的主存储器快得多地操作。因此，在许多情况下，将更小且更快的高速缓存存储器与主存储器结合使用以提供对指令或数据的快速访问。当处理器在实际需要数据之前请求将数据存储在高速缓存中时，发生将数据预取到高速缓存。然后，当需要数据时，可从高速缓存中检索该数据，而不会招致从主存储器请求该数据而引起的附加延迟。
[0006]由于大多数程序是按顺序执行的或者表现出其他规本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种方法，包括：记录第一组连续存储器访问增量，其中所述连续存储器访问增量中的每个连续存储器访问增量表示由应用程序访问的两个存储器地址之间的差；基于所述第一组存储器访问增量来更新预取训练表中的值；以及响应于第二组连续存储器访问增量并且基于所述预取训练表中的值来预测用于预取的一个或多个存储器地址。2.根据权利要求1所述的方法，其中响应于确定所述第一组存储器访问增量包括预先确定量的存储器访问增量，执行所述更新预取训练表中的值。3.根据权利要求1所述的方法，还包括：在相关性表中，响应于确定局部模式缓冲器的第一条目包含至少m+(n
‑
m)
×
i个存储器访问增量，将程序计数器与所述连续增量的第一子集相关联，其中m＜n并且i是大于或等于0的整数。4.根据权利要求1所述的方法，其中：所述预取训练表是模式历史表；并且更新所述预取训练表中的所述值包括将所述连续存储器访问增量的第一子集从局部模式缓冲器复制到所述模式历史表。5.根据权利要求1所述的方法，还包括：基于位于第一存储器页面中的存储器地址来计算所述第一组存储器访问增量中的每个存储器访问增量；基于位于第二存储器页面中的存储器地址来计算第二组存储器访问增量中的每个存储器访问增量；以及将所述第一组存储器访问增量和所述第二组存储器访问增量存储在所述局部模式缓冲器的不同条目中。6.根据权利要求1所述的方法，还包括：响应于确定所述局部模式缓冲器的第一条目包含至少m个存储器访问增量，通过以下操作从所述预取训练表中选择所述值，其中m是大于或等于2的整数：基于与最近存储器访问相关联的程序计数器值和所述第二组连续存储器访问增量来计算散列值，以及执行在相关性表中查找所述散列值，以识别所述预取训练表中包含所述值的条目。7.根据权利要求1所述的方法，其中：从所述预取训练表中选择的所述值包括所述第一组连续存储器访问增量中的一个或多个连续存储器访问增量；并且所述方法还包括基于所选择值和所述应用程序最近存储器访问的存储器地址来预测一个或多个预取地址。8.根据权利要求1所述的方法，其中：所述预取训练表包括相关性权重表；来自所述预取训练表的所述值表示所述相关性权重表中的权重；并且所述更新所述预取训练表中的所述值还包括：对于来自所述第一组存储器访问增量的存储器访问增量子集中的每个存储器访问增量：
在所述相关性权重表中，使与以下项相关联的所述权重中的一个权重递增：所述存储器访问增量、记录在所述局部模式缓冲器中的在所述子集之后的最近存储器访问增量，以及所述存储器访问增量距所述最近存储器访问增量的序列距离。9.根据权利要求1所述的方法，其中：所述预取训练表包括相关性权重表；并且所述方法还包括：响应于确定所述局部模式缓冲器包含至少n个存储器访问增量：对于所述n个存储器访问增量中的每个存储器访问增量，从所述相关性权重表中选择与所述存储器访问增量对应并与所述存储器访问增量相对于未来存储器访问增量的序列位置的序列位置对应的一组权重值，以及将所选择的权重值与总和寄存器向量中的相应累加权重值相加，其中所述预测用于预取的一个或多个存储器地址基于在已针对所有所述n个存储器访问增量执行所述将所选择的权重值相加之后所述总和寄存器向量中的最高累加权重值的索引。10.根据权利要求9所述的方法，还包括：响应于确定所述最高累加权重值超过阈值，基于所预测的一个或多个存储器地址来执行预取。11.根据权利要求1所述的方法，其中：所述预取训练表包括相关性权重表；所述最高累加权重值的所述索引表示预测的未来存储器访问增量；并且通过执行在所述相关性权重表中查找来预测用于预取的一个或多个附加存储器地址基于所述预测的未来存储器访问增量和最近存储器访问增量。12.根据权利要求1所述的方法，其中：所述预取训练表包括相关性权重表；并且所述方法还包括：响应于检测到未使用的预取数据被从高速缓存中逐出，使与所述逐出的预取数据相关联的一组权重中的每个权重在所述相关性权重表中递减。13.一种计算设备，包括：局部模式缓冲器，所述局部模式缓冲器被配置为存储第一组连续存储器访问增量，其中所述连续存储器访问增量中的每个连续存储器访问增量表示由应用程序访问的两个存储器地址之间的差；存储器，所述存储器适于将预取训练数据存储在预取训练表中；和预取逻辑，所述预取逻辑与所述局部模式缓冲器和所述预取训练表耦接，并且被配置为：基于所述第一组存储器访问增量来更新所述预取训练表中的值，以及响应于接收在所述局部模式缓冲器中的第二组连续存储器访问增量并且基于所述预取训练表中的值来预测用于预取的一个或多个存储器地址。14.根据权利要求13所述的计算设备，其中所述预取逻辑被配置为：响应于确定所述第一组连续存储器访问增量包括预先确定量的存储器访问增量，更新所述预取训练表中的所述值...

【专利技术属性】
技术研发人员：真下进，约翰，
申请(专利权)人：超威半导体公司，
类型：发明
国别省市：