缓存资源分配方法组成比例

本公开涉及电数字数据处理技术领域，尤其涉及一种缓存资源分配方法

【技术实现步骤摘要】
缓存资源分配方法、装置、电子设备和存储介质
[0001]本申请是在
2023
年
02
月
23
日提交中国专利局
、
申请号为
202310153348.3、
专利技术名称为“缓存资源分配方法
、
装置
、
电子设备和存储介质”的中国专利申请的分案申请
。


[0002]本公开涉及电数字数据处理
，尤其涉及一种缓存资源分配方法
、
缓存资源分配装置
、
电子设备和存储介质
。

技术介绍

[0003]缓存是一种片上存储器，它位于
CPU(Central Processing Unit
，中央处理器
)/GPU(Graphics Processing Unit
，图形处理器
)
与内存之间，可以提供快速且小容量的数据读写
。
缓存内的数据是主内存的一部分，通过一定的映射关系存储在缓存中，并通过对比标签信息来获得数据
。
映射关系主要分为以下三种：第一种为直接映射
。
在直接映射中，内存中的某一块地址只能映射到缓存中的固定位置
。
第二种为全相连映射
。
在全相连映射中，内存中的某一块地址可以映射到缓存中的任意位置
。
第三种为组相连映射
。
组相连映射是直接映射和全相连映射的折中方案
。
在组相连映射中，将缓存分为若干组
(set)
，每组有多个路
(way)。
内存中的某一块地址只能映射到固定的组，但是可以映射到每个组内不同的路
。
由于物理实现的复杂度，在组相连中，每组包含的路的数量通常不超过
16
个或
32
个
。
表1示出了组相连映射的一示例性的实现方式
。
在表1所示的实现方式中，将缓存分为
M+1
组，每个组包括
N+1
个路
。
[0004]表1[0005] 路
#0
路
#1
…
路
#N
组
#0
数据数据数据数据
…
数据数据数据数据组
#M
数据数据数据数据
[0006]缓存利用了程序的局部性原理，分为时间局部性和空间局部性
。
时间局部性是指某一个地址可能会在一段时间内重复被访问
。
空间局部性是指一个地址被访问，则附近的地址也有很大可能会被访问
。
由于不同程序表现出的局部性也会不同，所以对于缓存的利用率也有差异
。
如何提高缓存资源的利用率，是亟待解决的技术问题
。

技术实现思路

[0007]本公开提供了一种缓存资源分配技术方案
。
[0008]根据本公开的一方面，提供了一种缓存资源分配方法，处理器系统包括至少两级缓存，所述至少两级缓存中的最高级为共享缓存，所述共享缓存包括多个共享缓存组，所述方法包括：
[0009]响应于来自于任一应用的第一数据请求，获取所述第一数据请求携带的第一标识信息；
[0010]响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，向所述第一标识信息分配预设数量的共享缓存组
。
[0011]在一种可能的实现方式中，所述共享缓存包括多个共享缓存通道；
[0012]所述响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，向所述第一标识信息分配预设数量的共享缓存组，包括：
[0013]响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，向所述第一标识信息分别分配所述多个共享缓存通道中的预设数量的共享缓存组
。
[0014]在一种可能的实现方式中，所述预设数量包括第一预设数量和第二预设数量，且所述第一预设数量小于所述第二预设数量；
[0015]所述响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，向所述第一标识信息分别分配所述多个共享缓存通道中的预设数量的共享缓存组，包括：
[0016]响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，从所述多个共享缓存通道中，确定所述第一标识信息对应的第一参照共享缓存通道，其中，所述第一参照共享缓存通道表示所述第一标识信息对应的参照共享缓存通道；
[0017]向所述第一标识信息分配第一普通共享缓存通道中的所述第一预设数量的共享缓存组，并向所述第一标识信息分配所述第一参照共享缓存通道中的所述第二预设数量的共享缓存组，其中，所述第一普通共享缓存通道表示所述多个共享缓存通道中除所述第一参照共享缓存通道以外的共享缓存通道
。
[0018]在一种可能的实现方式中，所述响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，从所述多个共享缓存通道中，确定所述第一标识信息对应的第一参照共享缓存通道，包括：
[0019]响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，且所述多个共享缓存通道中存在未被确定为参照共享缓存通道的共享缓存通道，从所述未被确定为参照共享缓存通道的共享缓存通道中，确定所述第一标识信息对应的第一参照共享缓存通道
。
[0020]在一种可能的实现方式中，所述方法还包括：
[0021]获取所述第一参照共享缓存通道针对所述第一标识信息的第一命中率，以及所述第一普通共享缓存通道针对所述第一标识信息的第二命中率；
[0022]根据所述第一命中率和所述第二命中率，调节分配给所述第一标识信息的共享缓存组的数量
。
[0023]在一种可能的实现方式中，所述根据所述第一命中率和所述第二命中率，调节分配给所述第一标识信息的共享缓存组的数量，包括：
[0024]确定所述第一命中率与所述第二命中率的比值；
[0025]响应于所述比值大于或等于第一预设阈值，增大所述多个共享缓存通道中分配给所述第一标识信息的共享缓存组的数量；或者，响应于所述比值小于或等于第二预设阈值，减少所述多个共享缓存通道中分配给所述第一标识信息的共享缓存组的数量；其中，所述第一预设阈值大于所述第二预设阈值，且所述第一预设阈值和所述第二预设阈值均大于
1。
[0026]在一种可能的实现方式中，所述方法还包括：
[0027]获取所述第一数据请求对应的第一请求地址；
[0028]响应于根据所述第一请求地址确定在本地缓存中发生缓存缺失，获取所述第一标识信息对应的组掩码
、
组偏移和标志位偏移量；
[0029]根据所述第一数据请求对应的第二请求地址
、
所述组掩码...

【技术保护点】

【技术特征摘要】
1.
一种缓存资源分配方法，其特征在于，处理器系统包括至少两级缓存，所述至少两级缓存中的最高级为共享缓存，所述共享缓存包括多个共享缓存组，所述方法包括：响应于来自于任一应用的第一数据请求，获取所述第一数据请求携带的第一标识信息；获取所述第一数据请求对应的第一请求地址；响应于根据所述第一请求地址确定在本地缓存中发生缓存缺失，获取所述第一标识信息对应的组掩码
、
组偏移和标志位偏移量；其中，所述组掩码用于确定分配给所述第一标识信息的共享缓存组的数量；根据所述第一数据请求对应的第二请求地址
、
所述组掩码
、
所述组偏移和所述标志位偏移量，确定所述第一数据请求对应的新组位和新标签信息，其中，所述第二请求地址根据所述第一请求地址确定；根据所述第二请求地址中的通道信息和行内偏移地址，以及所述新组位和所述新标签信息，查找目标数据
。2.
根据权利要求1所述的方法，其特征在于，在所述获取所述第一数据请求携带的第一标识信息之后，所述方法还包括：响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，向所述第一标识信息分配预设数量的共享缓存组
。3.
根据权利要求1所述的方法，其特征在于，所述共享缓存包括多个共享缓存通道；所述响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，向所述第一标识信息分配预设数量的共享缓存组，包括：响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，向所述第一标识信息分别分配所述多个共享缓存通道中的预设数量的共享缓存组
。4.
根据权利要求3所述的方法，其特征在于，所述预设数量包括第一预设数量和第二预设数量，且所述第一预设数量小于所述第二预设数量；所述响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，向所述第一标识信息分别分配所述多个共享缓存通道中的预设数量的共享缓存组，包括：响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，从所述多个共享缓存通道中，确定所述第一标识信息对应的第一参照共享缓存通道，其中，所述第一参照共享缓存通道表示所述第一标识信息对应的参照共享缓存通道；向所述第一标识信息分配第一普通共享缓存通道中的所述第一预设数量的共享缓存组，并向所述第一标识信息分配所述第一参照共享缓存通道中的所述第二预设数量的共享缓存组，其中，所述第一普通共享缓存通道表示所述多个共享缓存通道中除所述第一参照共享缓存通道以外的共享缓存通道
。5.
根据权利要求4所述的方法，其特征在于，所述响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，从所述多个共享缓存通道中，确定所述第一标识信息对应的第一参照共享缓存通道，包括：响应于所述第一数据请求为首次接收到的所述第一标识信息对应的数据请求，且所述多个共享缓存通道中存在未被确定为参照共享缓存通道的共享缓存通道，从所述未被确定为参照共享缓存通道的共享缓存通道中，确定所述第一标识信息对应的第一参照共享缓存
通道
。6.
根据权利要求4所述的方法，其特征在于，所述方法还包括：获取所述第一参照共享缓存通道针对所述第一标识信息的第一命中率，以及所述第一普通共享缓存通道针对所述第一标识信息的第二命中率；根据所述第一命中率和所述第二命中率，调节分配给所述第一标识信息的共享缓存组的数量
。7.
根据权利要求6所述的方法，其特征在于，所述根据所述第一命中率和所述第二命中率，调节分配给所述第一标识信息的共享缓存组的数量，包括：确定所述第一命中率与所述第二命中率的比值；响应于所述比值大于或等于第一预设阈值，增大所述...

【专利技术属性】
技术研发人员：请求不公布姓名，
申请(专利权)人：摩尔线程智能科技北京有限责任公司，
类型：发明
国别省市：