System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 存储器带宽分配方法及设备组成比例_技高网

存储器带宽分配方法及设备组成比例

技术编号:40603757 阅读:6 留言:0更新日期:2024-03-12 22:09
公开一种存储器带宽分配方法及设备。该存储器带宽分配方法包括:接收对服务器中的多个处理器核共享的末级缓存的访问请求,访问请求从具有私有缓存的处理器核发送,私有缓存保存存储器中的频繁访问的数据的副本;确定访问请求是末级缓存命中还是末级缓存未命中;基于所确定的结果来控制存储器带宽控制器,存储器带宽控制器执行存储器带宽节流,以控制私有缓存和末级缓存之间的请求速率,访问请求的末级缓存命中导致禁用由存储器带宽控制器启动的存储器带宽节流,访问请求的末级缓存未命中导致启用由存储器带宽控制器启动的存储器带宽节流。本公开实现了高效的存储器带宽使用控制和分配,减少了由存储器带宽使用限制引起的性能下降。

【技术实现步骤摘要】

本公开一般涉及计算系统中的多核处理器架构,更具体地说,涉及多核处理器架构中的存储器带宽分配方法及设备


技术介绍

1、在应用云计算时,多个工作负载可位于同一台服务器上,以提高当代数据中心中的处理器的利用率。在多核处理器架构中,包括末级缓存(last level cache,llc)和存储器带宽的多个系统资源可以由处理器的各个核共享。末级缓存是指在访问存储器之前被调用的最高级别的共享缓存,用于减少从存储器访问数据的平均成本(例如处理时间)。为了优化数据中心中的服务器的性能并满足具有不同优先级的工作负载,需要准确高效地监控并分配系统中的末级缓存和存储器带宽。


技术实现思路

1、本公开实施例提供一种计算机实现的方法,该方法用于分配服务器中的多个处理器核的存储器带宽。该方法包括:接收对服务器中的多个处理器核共享的末级缓存(llc)的访问请求,该访问请求由具有私有缓存的核发送,所述私有缓存保存存储器中频繁访问的数据的副本;确定访问请求是末级缓存命中还是末级缓存未命中;以及基于所确定的结果来控制存储器带宽控制器。存储器带宽控制器执行存储器带宽节流,以控制私有缓存和末级缓存之间的请求速率。访问请求的末级缓存命中导致禁用由存储器带宽控制器启动的存储器带宽节流,访问请求的末级缓存未命中导致启用由存储器带宽控制器启动的存储器带宽节流。

2、本公开实施例提供一种设备。该设备包括至少一个处理器,所述处理器包括:多个处理器核、由多个处理器核共享的末级缓存、缓存访问预测器和存储器带宽控制器。多个处理器核包括相应的私有缓存,末级缓存用于接收从多个处理器核中的一个处理器核发送的对末级缓存的访问请求,私有缓存保存该至少一个处理器外部的存储器的频繁访问的数据的副本。缓存访问预测器用于确定访问请求是末级缓存命中还是末级缓存未命中。存储器带宽控制器用于执行存储器带宽节流,以控制私有缓存和末级缓存之间的请求速率。存储器带宽控制器进一步用于响应于确定访问请求为末级缓存命中,禁用由存储器带宽控制器启动的存储器带宽节流,并且,响应于确定访问请求为末级缓存未命中,启用由存储器带宽控制器启动的存储器带宽节流。

3、本公开实施例提供了一种非暂时性的计算机可读存储介质。该非暂时性的计算机可读存储介质存储可由设备的一个或多个处理器执行的一组指令,以使设备执行上述的存储器带宽分配方法。

本文档来自技高网...

【技术保护点】

1.一种存储器带宽分配方法,包括:

2.根据权利要求1所述的存储器带宽分配方法,其中,所述确定所述访问请求是末级缓存命中还是末级缓存未命中包括:

3.根据权利要求1所述的存储器带宽分配方法,其中,所述确定所述访问请求是末级缓存命中还是末级缓存未命中包括:

4.根据权利要求3所述的存储器带宽分配方法,还包括:

5.根据权利要求1所述的存储器带宽分配方法,其中,所述确定所述访问请求是末级缓存命中还是末级缓存未命中包括:

6.根据权利要求5所述的存储器带宽分配方法,还包括:

7.根据权利要求5所述的存储器带宽分配方法,其中,所述部分地址包括所述被请求的存储器线地址的最低有效p位,p大于或等于所述被请求的存储器线地址中的索引位数。

8.根据权利要求1所述的存储器带宽分配方法,其中,通过基于机器学习的预测器来确定所述访问请求是末级缓存命中还是末级缓存未命中。

9.根据权利要求1所述的存储器带宽分配方法,其中,所述确定所述访问请求是末级缓存命中还是末级缓存未命中包括:

10.一种设备,包括:

11.根据权利要求10所述的设备,其中,所述缓存访问预测器用于基于与所述访问请求相关联的被请求的存储器线地址、与所述访问请求相关联的请求类型、与所述访问请求相关联的数据大小、与所述访问请求相关联的源标识符、与所述访问请求相关联的目标标识符或其任何组合,确定所述访问请求是末级缓存命中还是末级缓存未命中。

12.根据权利要求10所述的设备,其中,所述缓存访问预测器用于通过以下方式确定所述访问请求是末级缓存命中还是末级缓存未命中:

13.根据权利要求12所述的设备,其中,响应于确定所述访问请求为末级缓存未命中,所述缓存访问预测器用于:

14.根据权利要求10所述的设备,其中,所述缓存访问预测器用于通过以下方式确定所述访问请求是末级缓存命中还是末级缓存未命中:

15.根据权利要求14所述的设备,其中,响应于确定所述访问请求为末级缓存未命中,所述缓存访问预测器用于将所述布隆过滤器数组中的第一比特位设置为真,所述第一比特位与所述被请求的存储器线地址相关联的部分地址相关联。

16.根据权利要求14所述的设备,其中,所述部分地址包括所述被请求的存储器线地址的最低有效p位,p大于或等于所述被请求的存储器线地址中的索引位数。

17.根据权利要求10所述的设备,其中,所述缓存访问预测器是基于机器学习的预测器,用来确定所述访问请求是末级缓存命中还是末级缓存未命中。

18.根据权利要求10所述的设备,其中,所述缓存访问预测器用于通过以下方式确定所述访问请求是末级缓存命中还是末级缓存未命中:

19.一种非暂时性的计算机可读存储介质,所述计算机可读存储介质存储可由设备的一个或多个处理器执行的一组指令,以使所述设备执行一种存储器带宽分配方法,所述存储器带宽分配方法包括:

20.根据权利要求19所述的计算机可读存储介质,其中,所述确定所述访问请求是末级缓存命中还是末级缓存未命中包括:

...

【技术特征摘要】

1.一种存储器带宽分配方法,包括:

2.根据权利要求1所述的存储器带宽分配方法,其中,所述确定所述访问请求是末级缓存命中还是末级缓存未命中包括:

3.根据权利要求1所述的存储器带宽分配方法,其中,所述确定所述访问请求是末级缓存命中还是末级缓存未命中包括:

4.根据权利要求3所述的存储器带宽分配方法,还包括:

5.根据权利要求1所述的存储器带宽分配方法,其中,所述确定所述访问请求是末级缓存命中还是末级缓存未命中包括:

6.根据权利要求5所述的存储器带宽分配方法,还包括:

7.根据权利要求5所述的存储器带宽分配方法,其中,所述部分地址包括所述被请求的存储器线地址的最低有效p位,p大于或等于所述被请求的存储器线地址中的索引位数。

8.根据权利要求1所述的存储器带宽分配方法,其中,通过基于机器学习的预测器来确定所述访问请求是末级缓存命中还是末级缓存未命中。

9.根据权利要求1所述的存储器带宽分配方法,其中,所述确定所述访问请求是末级缓存命中还是末级缓存未命中包括:

10.一种设备,包括:

11.根据权利要求10所述的设备,其中,所述缓存访问预测器用于基于与所述访问请求相关联的被请求的存储器线地址、与所述访问请求相关联的请求类型、与所述访问请求相关联的数据大小、与所述访问请求相关联的源标识符、与所述访问请求相关联的目标标识符或其任何组合,确定所述访问请求是末级缓存命中还是末级缓存未命中。

12.根据权利要求1...

【专利技术属性】
技术研发人员:段立德黄博文张启晨王圣诚陈彦光郑宏忠
申请(专利权)人:阿里巴巴中国有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1