保证多个延迟关键程序共同执行时服务质量的方法及系统技术方案

技术编号:27772002 阅读:17 留言:0更新日期:2021-03-23 12:51
本发明专利技术公开了保证多个延迟关键程序共同执行时服务质量的方法及系统,启动多个延迟关键程序;每个延迟关键程序均被预先设置于对应的内核中,每个内核上的延迟关键程序共享最后一级缓存空间;将每个延迟关键程序划分为若干个程序阶段;对每个程序阶段再划分为若干个程序间隔;在多个延迟关键程序被共同运行的过程中,对每个延迟关键程序的每个程序阶段中的程序间隔进行采样;根据采样数据计算每个程序阶段的第一、二和三实际性能数据;根据第一、二和三实际性能数据对相应的程序阶段的阶段类型和性能进行分类;根据每个延迟关键程序的每个程序阶段所处的阶段类型和所处的性能类型,对每个延迟关键程序运行过程中所占用的缓存空间进行动态调整。

【技术实现步骤摘要】
保证多个延迟关键程序共同执行时服务质量的方法及系统
本申请涉及并行与分布计算
,特别是涉及保证多个延迟关键程序共同执行时服务质量的方法及系统。
技术介绍
本部分的陈述仅仅是提到了与本申请相关的
技术介绍
,并不必然构成现有技术。数据中心已经从概念走向成熟。在数据中心中,为了提高资源利用率,大量的程序在尽可能少的服务器上执行。而在一个服务器节点中,会有多个程序在一个节点上执行。多个程序共同执行的好处是可以增加服务器的利用率,而问题是会导致程序性能下降。程序性能下降程度取决于程序特征,对于某些程序,与其他程序共同执行时,性能下降不明显,而对于某些程序,与其他程序共同执行时,性能会明显下降。于此同时,数据中心中运行着大量的延迟关键程序。客户将程序在数据中心执行,并对程序有一定的服务质量需求,比如程序性能不能低于单独执行时的90%。当延迟关键程序与其他程序共同执行时,很容易由于性能干扰导致严重的性能下降,从而不能满足客户的服务质量需求。这是必须要解决的问题。因此,需要一种方法,在尽可能提升系统资源利用率的基础上,还要保证延迟关键程序的本文档来自技高网...

【技术保护点】
1.保证多个延迟关键程序共同执行时服务质量的方法,其特征是,包括:/n初始化硬件计数器,启动多个延迟关键程序;每个延迟关键程序均被预先设置于对应的内核中,每个内核上的延迟关键程序共享最后一级缓存空间LLC;/n将每个延迟关键程序划分为若干个程序阶段;对每个程序阶段再划分为若干个程序间隔;/n在多个延迟关键程序被共同运行的过程中,利用硬件性能计数器,对每个延迟关键程序的每个程序阶段中的程序间隔进行采样;根据采样数据计算每个程序阶段的第一、第二和第三实际性能数据;根据第一实际性能数据对相应的程序阶段的阶段类型进行分类;根据第二和第三实际性能数据对程序阶段的性能进行分类;/n根据每个延迟关键程序的每...

【技术特征摘要】
1.保证多个延迟关键程序共同执行时服务质量的方法,其特征是,包括:
初始化硬件计数器,启动多个延迟关键程序;每个延迟关键程序均被预先设置于对应的内核中,每个内核上的延迟关键程序共享最后一级缓存空间LLC;
将每个延迟关键程序划分为若干个程序阶段;对每个程序阶段再划分为若干个程序间隔;
在多个延迟关键程序被共同运行的过程中,利用硬件性能计数器,对每个延迟关键程序的每个程序阶段中的程序间隔进行采样;根据采样数据计算每个程序阶段的第一、第二和第三实际性能数据;根据第一实际性能数据对相应的程序阶段的阶段类型进行分类;根据第二和第三实际性能数据对程序阶段的性能进行分类;
根据每个延迟关键程序的每个程序阶段所处的阶段类型和所处的性能类型,对每个延迟关键程序运行过程中所占用的缓存空间进行动态调整。


2.如权利要求1所述的方法,其特征是,所述初始化硬件计数器,启动多个延迟关键程序;还包括:
假设缓存空间LLC共有N路空间,预留出M路空间作为备用空间,将剩余的N-M路空间平均分配给所有的延迟关键程序;N和M均为正整数。


3.如权利要求1所述的方法,其特征是,所述将每个延迟关键程序划分为若干个程序阶段;具体步骤包括:
利用计数器来对指令数量进行计数,通过执行设定数量的指令数来对程序的阶段进行划分。


4.如权利要求1所述的方法,其特征是,对每个程序阶段再划分为若干个程序间隔;具体步骤包括:
对条件分支指令进行计数,当执行X条条件分支指令后,触发中断;
即每X条条件分支指令,作为一个程序间隔;另外一个硬件计数器负责记录下这期间执行的指令总数,X为正整数。


5.如权利要求1所述的方法,其特征是,在多个延迟关键程序被共同运行的过程中,利用硬件性能计数器,对每个延迟关键程序的每个程序阶段的程序间隔进行采样;具体步骤包括:
在多个延迟关键程序被共同运行的过程中,利用硬件性能计数器,对每个延迟关键程序的每个程序阶段的程序间隔进行采样,获取性能指标每周期指令数IPC、LLC未命中数、LLC命中数和LLC引用数。


6.如权利要求1所述的方法,其特征是,根据采样数据计算每个程序阶段的第一、第二和第三实际性能数据;具体步骤包括:
根据采样数据计算每个程序阶段的第一实际性能数据;第一实际性能数据,是指:每周期指令数IPC平均值;
根据采样数据计算每个程序阶段的第二实际性能数据;第二实际性能数据,是指:LLC上每千指令未命中指令数的均值MPKILLC;
根据采样数据计算每个程序阶段的第三实际性能数据;第三实际性能数据,是指:LLC上每千指令命中指令数的均值HPKILLC。


7.如权利要求1所述的方法,其特征是,根据第一实际性能数据对相应的程序阶段的阶段类型进行分类;具体步骤包括:
根据将程序阶段类型划分为3类:
A类:
B类:
C类:
其中,α是指第一设定阈值,β是指第二设定阈值;
...

【专利技术属性】
技术研发人员:王琳李东桦黄天元耿世超周莲莲季红滨张昭
申请(专利权)人:山东师范大学山东省大数据中心
类型:发明
国别省市:山东;37

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1