缓存管理方法、缓存控制器及处理器、存储介质技术

技术编号:23342903 阅读:42 留言:0更新日期:2020-02-15 03:44
本发明专利技术实施例公开了一种缓存管理方法、缓存控制器及处理器、存储介质,所述缓存管理方法包括:基于计算设备的缓存层次架构及所述缓存所处缓存层次特性,并根据所述缓存上负载流的差异性,将所述缓存上的负载流进行分类,并对分类后的负载流进行相应的优先级配置;按照所配置的优先级分配缓存资源及进行缓存管理。采用上述方案,可以提升缓存的服务质量。

Cache management method, cache controller and processor, storage medium

【技术实现步骤摘要】
缓存管理方法、缓存控制器及处理器、存储介质
本专利技术实施例涉及缓存管理
,尤其涉及一种缓存管理方法、缓存控制器及处理器、存储介质。
技术介绍
对于计算设备来说,利用缓存存储需要经常访问的数据及其地址是一种有效的提高计算设备运行速度的方法。缓存层次结构传统上是为单个应用程序、线程或核心而设计的。随着多线程(MT)和多核(CMP)平台体系结构的出现,它们的工作负载范围从单线程和多线程应用程序到复杂虚拟机(VMs),这些异构负载流具有不同的局部性和不同的缓存敏感性。因此,即使对于具有良好局部性的应用程序来说,将所有缓存访问都一视同仁的缓存管理方法也会导致空间利用率低和性能差。目前,为了提高计算设备的服务质量(QualityofService,QoS),通过在处理器的最后一级共享缓存(LastLevelCache,LLC)中应用相应的缓存管理方案。然而,上述缓存管理方案的服务质量仍有待提高。
技术实现思路
本专利技术实施例为提升缓存的服务质量,提供了一种缓存管理方法、缓存控制器及处理器、存储介质。本专本文档来自技高网...

【技术保护点】
1.一种计算设备的缓存管理方法,其特征在于,包括:/n基于所述计算设备的缓存层次架构及所述缓存所处缓存层次特性,并根据所述缓存上负载流的差异性,将所述缓存上的负载流进行分类,并对分类后的负载流进行相应的优先级配置;/n按照所配置的优先级分配缓存资源及进行缓存管理。/n

【技术特征摘要】
20190419 US 16/389,1351.一种计算设备的缓存管理方法,其特征在于,包括:
基于所述计算设备的缓存层次架构及所述缓存所处缓存层次特性,并根据所述缓存上负载流的差异性,将所述缓存上的负载流进行分类,并对分类后的负载流进行相应的优先级配置;
按照所配置的优先级分配缓存资源及进行缓存管理。


2.根据权利要求1所述的缓存管理方法,其特征在于,还包括:监控所述缓存的资源分配状况,根据监控结果调整所述缓存的资源分配。


3.根据权利要求2所述的缓存管理方法,其特征在于,所述根据监控结果调整所述缓存的资源分配及进行缓存管理,包括以下至少一种:
根据监控结果调整所述缓存上负载流的分类方式,并根据调整后的分类方式对负载流进行相应的优先级配置;
根据监控结果调整所述缓存上负载流的优先级配置。


4.根据权利要求1所述的缓存管理方法,其特征在于,还包括:监控所述计算设备多个缓存层次的资源分配状况,根据监控结果调整相应的一个或多个缓存层次的资源分配。


5.根据权利要求4所述的缓存管理方法,其特征在于,所述根据监控结果调整相应的一个或多个缓存层次的资源分配,包括:
当监测到某个缓存层次上的缓存分配未达到预设的缓存服务质量要求时,执行以下至少一种调整操作:
调整所述缓存层次上的缓存的资源分配;
调整所述缓存层次之上至少一个缓存层次的缓存的资源分配。


6.根据权利要求5所述的缓存管理方法,其特征在于,所述根据监控结果调整相应的一个或多个缓存层次的资源分配,包括以下至少其中一种:
根据监控结果调整所述缓存层次的负载流的分类方式,并根据调整后的分类方式对负载流进行相应的优先级配置;
根据监控结果调整所述缓存层次上负载流的优先级配置;
根据监控结果调整所述缓存层次之上的至少一个缓存层次的负载流的分类方式,并根据调整后的分类方式对负载流进行相应的优先级配置;
根据监控结果调整所述缓存层次之上的至少一个缓存层次上的负载流的优先级配置。


7.根据权利要求1-6任一项所述的缓存管理方法,其特征在于,所述基于所述计算设备的缓存层次架构及所述缓存所处缓存层次特性,并根据所述缓存上负载流的差异性,将所述缓存上的负载流进行分类,包括以下至少其中一种:
将所述缓存上的负载流基于应用的不同进行分类;
将所述缓存上的负载流基于内核的不同进行分类;
将所述缓存上的负载流基于线程的不同进行分类;
将所述缓存上的负载流基于所涉及的数据结构类型进行分类;
将所述缓存上的负载流基于应用的事务或所处阶段进行分类;
将所述缓存上的负载流基于数据访问的类型进行分类;
将所述缓存上的负载流基于访问的来源进行分类。


8.根据权利要求7所述的缓存管理方法,其特征在于,所述按照所配置的优先级分配缓存资源及进行缓存管理,包括以下至少一种:
按照所配置的优先级对相应负载流执行预设的缓存空间管理策略;
按照所配置的优先级对相应负载流对应的缓存行执行预设的基于年龄的优先级策略。


9.根据权利要求8所述的缓存管理方法,其特征在于,所述按照所配置的优先级对相应负载流执行预设的缓存空间管理策略,包括以下至少一...

【专利技术属性】
技术研发人员:张春晖寇雷刚林江李静崔泽汉
申请(专利权)人:成都海光集成电路设计有限公司
类型:发明
国别省市:四川;51

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1