中央处理器的缓存区的缓存行的替换方法及其装置制造方法及图纸

本发明专利技术适用于计算机技术领域，提供了一种中央处理器缓存区的缓存行的替换方法及装置，所述方法包括：步骤1，根据分别缓存在所述中央处理器缓存区的多个缓存行中的多个应用程序的任务的优先级标识值和被访问的时间间隔，计算所述中央处理器缓存区中需要被替换的缓存行；步骤2，将所述中央处理器缓存区中需要被替换的缓存行进行替换。借此，本发明专利技术提高了实时性数据块的命中率。

【技术实现步骤摘要】

本专利技术涉及计算机
，尤其涉及一种中央处理器的缓存区的缓存行的替换方法及其装置。
技术介绍
随着互联网服务、社交网络以及云计算等新兴应用的迅速兴起，数据中心处理的并行请求越来越多密集。如何保证大规模访问请求的实时性，是体系结构所面临的新挑战。“存储墙”是冯诺依曼体系结构的最大挑战，也是影响应用程序实时性的主要因素。中央处理器Cache(缓存区)在缓解“存储墙”问题方面扮演着重要的角色，很大程度上弥补了CPU和存储器的速度鸿沟。因此，中央处理器Cache在保证应用程序实时性方面也存在着重要的影响。通过在中央处理器Cache替换策略上添加对实时性的考虑，可以提高应用程序的实时性，进而提高网络服务质量。目前，针对网络服务的QoS(Quality of Service，服务质量)的缓存策略，目前主要分为两部分内容：一部分是针对流媒体代理缓存的替换策略的优化，这部分缓存主要针对于存在内存和硬盘中的文件存储区进行优化，非传统中央处理器核与内存之间的Cache；另一部分是对于CPU内部的Cache的替换策略的优化，利用实时性标签对Cache进行区域划分。然而，当前的Cache划分方式需要对Cache及其控制电路进行大量的修改，增加了功耗、面积的开销，且不易扩展。综上可知，现有的中央处理器的缓存区的缓存行的替换技术在实际使用上，显然存在不便与缺陷，所以有必要加以改进。
技术实现思路
针对上述的缺陷，本专利技术的目的在于提供一种中央处理器缓存区的缓存行的替换方法及装置，以提高实时性数据块的命中率。为了实现上述目的，本专利技术提供一种中央处理器缓存区的缓存行的替换方法，所述方法包括：步骤1，根据分别缓存在所述中央处理器缓存区的多个缓存行中的多个应用程序的任务的优先级标识值和被访问的时间间隔，计算所述中央处理器缓存区中需要被替换的缓存行；步骤2，将所述中央处理器缓存区中需要被替换的缓存行进行替换。根据所述的替换方法，所述在所述步骤1之前包括：步骤21，在所述应用程序运行时，根据执行所述应用程序的任务的剩余时间对所述应用程序的任务进行优先级分类，并为每个所述优先级分类分配优选级标识值；步骤22，在所述缓存行中为每个所述应用程序的任务添加优先级标识值。根据所述的替换方法，所述步骤22包括：在所述应用程序发生访存请求操作时，所述应用程序的优先级标识值随访存请求的地址一并发到对应的所述缓存行，并在所述缓存行发生第一次发生访问失效并需要回填操作时，将所述优先级标识值写入到所述对应的缓存行的优先级标识位中；所述优先级标识值包括两位优先级标识位。根据所述的替换方法，所述应用程序的任务被访问的时间间隔由一所述应用程序的任务所属的缓存行的计数器进行计数，在所述应用程序的任务被访问时，所述计数器的计数值置为0，反之所述应用程序的任务所属的缓存行的计数器的计数值加1；所述优先级分类的级别越高，所述优先级标识值越小，反之，所述优先级标识值越大；所述步骤1还包括：在所述中央处理器缓存区的缓存行需要替换时，将计时所述应用程序被访问的时间间隔的计数器的计数值与所述优先级标识位标识的优先级标识值相加，将相加后所获得的数值最大的所述缓存行作为需要被替换的缓存行；和/或在所述缓存区中的缓存行的被访问的时间间隔的计数器的计数值达到预设的最大值时，逐步降低所述缓存行的优先级标识值直到所述缓存行被访问或者被替换。根据所述的替换方法，所述步骤2还包括：步骤23，根据计算出的所述需要被替换的缓存行将所述中央处理器缓存区中对应的缓存行进行替换；步骤24，刷新所述缓存区中其它缓存行的计数器的计数值。为了实现本专利技术的另一专利技术目的，本专利技术还提供了一种中央处理器缓存区的缓存行的替换装置，所述替换装置包括：计算模块，用于根据分别缓存在所述中央处理器缓存区的多个缓存行中的多个应用程序的任务的优先级标识值和被访问的时间间隔，计算所述中央处理器缓存区中需要被替换的缓存行；替换模块，用于将所述中央处理器缓存区中需要被替换的缓存行进行替换。根据所述的替换装置，所述替换装置还包括：优选级分类模块，用于在所述应用程序运行时，根据执行所述应用程序的任务的剩余时间对所述应用程序的任务进行优先级分类，并为每个所述优先级分类分配优选级标识值；标识添加模块，用于在所述缓存行中为每个所述应用程序的任务添加优先级标识值。根据所述的替换装置，所述标识添加模块在所述应用程序发生访存请求操作时，将所述应用程序的优先级标识值随访存请求的地址一并发到对应的所述缓存行，并在所述缓存行发生第一次发生访问失效并需要回填操作时，将所述优先级标识值写入到所述对应的缓存行的优先级标识位中；所述优先级标识值包括两位优先级标识位。根据所述的替换装置，所述应用程序的任务被访问的时间间隔由一所述应用程序的任务所属的缓存行的计数器进行计数，在所述应用程序的任务被访问时，所述计数器的计数值置为0，反之所述应用程序的任务所属的缓存行的计数器的计数值加1；所述优先级分类的级别越高，所述优先级标识值越小，反之，所述优先级标识值越大；所述计算模块包括：计算子模块，用于在所述中央处理器缓存区的缓存行需要替换时，将计时所述应用程序被访问的时间间隔的计数器的计数值与所述优先级标识位标识的优先级标识值相加，将相加后所获得的数值最大的所述缓存行作为需要被替换的缓存行；和/或降级子模块，用于在所述缓存区中的缓存行的被访问的时间间隔的计数器的计数值达到预设的最大值时，逐步降低所述缓存行的优先级标识值直到所述缓存行被访问或者被替换。根据所述的替换装置，所述替换模块包括：替换子模块，用于根据计算出的所述需要被替换的缓存行进行替换，将所述中央处理器缓存区中对应的缓存行进行替换；刷新子模块，用于刷新所述缓存区中其它缓存行的计数器的计数值。本专利技术通过根据分别缓存在所述中央处理器缓存区的多个缓存行中的多个应用程序的任务的优先级标识值和被访问的时间间隔，计算所述中央处理器缓存区中需要被替换的缓存行；然后，根据计算获得的所述中央处理器缓存区中需要被替换的缓存行将所述中央处理器缓存区中需要被替换的缓存行进行替换。由此，不但考虑了缓存行中应用程序的任务的被访问的时间间隔，还考虑该任务的实时性，提高实时性数据块的命中率。具体的，将缓存区中的每个缓存行添加此行数据所属应用程序的优先级标识值，当缓存区发生访问失效时，按照传统Cache替换策略及缓存行的优先级信息进行综合衡量后替换。此外，本专利技术实施例中的操作系统需要支持将应用程序按照实时性需求进行优先级分类，并将优先级信息添加至访存数据包中，一起发送至Cache中。为了避免高优先级Cache行长时间未使用且因优先级较高长时间未被替换，而导致的Cache资源浪费的情况，对于高优先级Cache行长时间未被使用时需要逐步降低该Cache行的优先级，直到其被替换出Cache，由此优化了中央处理器缓存区的缓存行的替换方案。附图说明图1是本专利技术中央处理器缓存区的缓存行的替换装置的结构图；图2是本专利技术中央处理器缓存区的缓存行的替换装置的结构图；图3是本专利技术缓存区结构工作原理图；图4是本专利技术中央处理器缓存区的缓存行的替换方法的流程图。具体实施方式为了使本专利技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本专利技术进行进一步详细说明。本文档来自技高网...

【技术保护点】
一种中央处理器缓存区的缓存行的替换方法，其特征在于，所述方法包括：步骤1，根据分别缓存在所述中央处理器缓存区的多个缓存行中的多个应用程序的任务的优先级标识值和被访问的时间间隔，计算所述中央处理器缓存区中需要被替换的缓存行；步骤2，将所述中央处理器缓存区中需要被替换的缓存行进行替换。

【技术特征摘要】
1.一种中央处理器缓存区的缓存行的替换方法，其特征在于，所述方法包括：步骤1，根据分别缓存在所述中央处理器缓存区的多个缓存行中的多个应用程序的任务的优先级标识值和被访问的时间间隔，计算所述中央处理器缓存区中需要被替换的缓存行；步骤2，将所述中央处理器缓存区中需要被替换的缓存行进行替换。2.根据权利要求1所述的替换方法，其特征在于，所述在所述步骤1之前包括：步骤21，在所述应用程序运行时，根据执行所述应用程序的任务的剩余时间对所述应用程序的任务进行优先级分类，并为每个所述优先级分类分配优选级标识值；步骤22，在所述缓存行中为每个所述应用程序的任务添加优先级标识值。3.根据权利要求2所述的替换方法，其特征在于，所述步骤22包括：在所述应用程序发生访存请求操作时，所述应用程序的优先级标识值随访存请求的地址一并发到对应的所述缓存行，并在所述缓存行发生第一次发生访问失效并需要回填操作时，将所述优先级标识值写入到所述对应的缓存行的优先级标识位中；所述优先级标识值包括两位优先级标识位。4.根据权利要求3所述的替换方法，其特征在于，所述应用程序的任务被访问的时间间隔由一所述应用程序的任务所属的缓存行的计数器进行计数，在所述应用程序的任务被访问时，所述计数器的计数值置为0，反之所述应用程序的任务所属的缓存行的计数器的计数值加1；所述优先级分类的级别越高，所述优先级标识值越小，反之，所述优先级标识值越大；所述步骤1还包括：在所述中央处理器缓存区的缓存行需要替换时，将计时所述应用程序被访问的时间间隔的计数器的计数值与所述优先级标识位标识的优先级标识值相加，将相加后所获得的数值最大的所述缓存行作为需要被替换的缓存行；和/或在所述缓存区中的缓存行的被访问的时间间隔的计数器的计数值达到预设的最大值时，逐步降低所述缓存行的优先级标识值直到所述缓存行被访问或者被替换。5.根据权利要求4所述的替换方法，其特征在于，所述步骤2还包括：步骤23，根据计算出的所述需要被替换的缓存行将所述中央处理器缓存区中对应的缓存行进行替换；步骤24，刷新所述缓存区中其它缓存行的计数器的计数值。6.一种中央处理器缓存区的缓存行的替换装置...

【专利技术属性】
技术研发人员：李文明，孙凝晖，谢向辉，李宏亮，郑方，
申请(专利权)人：中国科学院计算技术研究所，无锡江南计算技术研究所，
类型：发明
国别省市：北京;11