一种负载感知的自适应阈值过载迁移方法技术

技术编号:16282629 阅读:101 留言:0更新日期:2017-09-23 02:07
本发明专利技术公开了一种负载感知的自适应阈值过载迁移方法,包括:step1初始化变量:算法开始时需要维护服务信息表,系统自动在处理机上登记进程的PCB信息;step2运行负载均衡算法:在集群系统中配置相应的负载均衡算法对用户的请求进行负载分发。step3确定是否存在需要强制迁移的处理机;step4检查服务器是否过载:定期的监测系统的运行情况,以过载阈值为基准,判定服务器是否过度负载;tep5基于负载感知的迁移服务选取:该专利根据客户端请求的速率自适应的改变过载阈值,能够有效的根据并发量实时调整各个服务器的过载阈值,并对于过载服务器选择最佳迁出方案,防止了过载服务器的超负荷工作甚至宕机。

Load aware adaptive threshold overload transfer method

The invention discloses a load aware adaptive threshold overload migration method, including: step1 initialization variables: the need to maintain service information table of the beginning of the algorithm, PCB information automatic registration process on the processor system; load balancing algorithm: Step2 running in the cluster system configuration corresponding load balancing algorithm for user's load distribution. Step3 needs to determine whether the presence of forced migration processors; Step4: check whether the server overload operation monitoring system periodically, the overload threshold value as the benchmark, to determine whether the server over load; tep5 migration service load sensing based selection: the patent according to the client request rate adaptive change of the overload threshold, can effectively according to the number of concurrent adjust the overload threshold for each server, and to choose the best scheme from the server overload, to prevent overload overload the server or even downtime.

【技术实现步骤摘要】
一种负载感知的自适应阈值过载迁移方法
本专利技术应用于服务负载迁移领域,特别是涉及一种负载感知的自适应阈值过载迁移方法。
技术介绍
系统负载迁移是实际中经常遇到的一种问题,负载迁移策略的选择直接影响系统的效率,好的迁移策略能够增加系统的吞吐量,降低用户的相应时间,从而提高系统整体的吞吐量。通常常见的过载迁移策略有以下几种:基于目标处理机的选择策略、基于过载阈值的设定策略、过载迁移整体架构策略。这几种过载迁移策略各有优缺点,能够适应不同的应用场景。基于目标处理机的选择策略简单且比较常用的一种策略,其中比较常见的是以下几种:比如通过分析任务的特征并计算任务事件次数的数学期望和方差作为可靠性评价参数来选择目标迁移节点。将服务可迁移的目标定义为不破坏节点间的偏序关系且不产生死锁的情况下,使得迁移后的服务执行期望最大化,服务时间最小化。基于Xen虚拟机内存迭代拷贝算法,提出了通过缩短迭代拷贝的终止时间来减少虚拟机动态迁移所花费的时间,以使任务迁移时间最小化。采用首次适应算法或最佳适应算法找出第一个符合要求的节点作为目的节点,提出一种将目录迁移与目录复制相结合的负载均衡策略。这几种方法侧重点在于解决目标节点的选择问题,对阈值的选择以及对迁移节点的待迁移进程的研究稍有欠缺。基于过载阈值的设定策略是基于过载迁移最基本问题即过载阈值提出来的。以节点的下载量和被下载量为基础提出了推拉结合的结构化网络“热点”动态迁移策略。将过载阈值选择问题建模为马尔可夫决策过程并根据最小迁移时间原则以及最小能耗增加放置原则确定虚拟机的迁移策略。以文件为粒度在迁入端重建迁出端的相关状态结构,并根据被访问状态选择是否立即响应。对负载迁移进行建模,在迁移过程中减少网络访问次数、减少全局时间消耗以及在提高效率的同时兼顾全局的负载均衡。利用缓存和链路迁移策略,将重载节点中的剩余负载向其他轻载节点转移。在以上方法中,对过载阈值进行了建模,根据各自研究背景的不同,选取了不同的阈值设定策略。最后一种研究比较多的是过载迁移实现框架。有的是借助蚁群算法的思想,提出了一种面向负载均衡的自主式虚拟机动态迁移框架。通过专门的迁移协议的实现,以及专门的软件模块的实现和内核修改完成了进程迁移。基于最小化网络通信录的负载迁移策略,它主要关注负载迁移整个系统架构以及各模块所发挥的作用。综上所述,以上所有研究只是关注于负载迁移的某个环节,并没有把各个环节连贯起来,且对于待迁移服务的选择研究较少,故在前述研究的基础上提出了一种负载感知的自适应阈值过载迁移方法。
技术实现思路
本专利技术要解决的技术问题是:本专利技术的目的是提供一种负载感知的自适应阈值过载迁移方法,该负载感知的自适应阈值过载迁移方法能够根据客户端请求的速率自适应的改变过载阈值,并且在待迁移服务器中待迁移服务的选择上提出了一种负载感知方法,能够有效的根据并发量实时调整各个服务器的过载阈值,并对于过载服务器选择最佳迁出方案,防止了过载服务器的超负荷工作甚至宕机。本专利技术为解决公知技术中存在的技术问题所采取的技术方案是:一种面向多类型服务的粒子群优化用户请求调度方法,包括以下步骤:步骤101、初始化变量,开始时首先维护服务信息表,系统在处理机上登记进程的PCB信息,当服务器轻载时,D为本地处理机,S为空,此时系统不存在迁出服务;集群中的所有服务器向负载均衡控制模块发送服务状态信息,负载均衡控制模块协调汇总后生成负载状态表信息;具体步骤为:服务登记信息表是对服务器中正在进行的服务进行记录的一种数据结构,每个服务器节点维护一个服务登记信息表;上述数据结构描述为一个向量αi(P,D,S,T,PCB);其中i表示集群中的第i个服务器,i∈[1,n];P是进程标识符,描述了系统中每一个进程的ID;D是待迁移进程所属的源主机ID;S是待迁移进程所要迁往的目标主机ID;T是迁移过程中的迁移类型,如负载过重迁移、宕机迁移;PCB记录该服务CPU现场信息、堆栈信息、以及进程资源清单等相关信息,用于在目标处理机对迁移服务进行恢复;系统负载状态表是由当前集群系统中所有服务器共同维护的,主要用于描述系统中各台服务器的忙碌程度;系统状态表用一个向量β(N,L,C)来表示;其中N表示为处理机的ID;N∈[S1,S2,S3,...,Sn]L是当前时刻t服务器i的负载值,L详细描述了当前服务器中所有节点的闲忙程度以及可利用状态;其中是第j种服务类型对计算机总开销的贡献值;Cij表示第i台服务器节点第j种服务类型所占的开销;Tij(t)是在t时刻,服务器节点i接受的j服务类型的数目;C代表当前处理机的状态,其中Lo表示当前系统负载均值,当Li大于Lo时,当前服务器为重载,标记为W;当Li小于等于Lo时,表示为轻载服务器,标记为E;当服务器不可用时,标记为D。其中f是跟服务器性能相关的权值,该权值采用加权集合平均数计算得到;步骤102、运行负载均衡算法:根据不同的业务场景部署相应的负载均衡算法:具体为:加权轮询算法,适用于服务器性能相差不大的集群,任务队列的每个成员分配任务的概率相同;随机算法,其中用户请求随机分发给后台的各个服务器,其中,随机函数的选取直接影响算法的好坏;比率算法,依据各个服务器的负载能力分配,权值决定请求的分配概率,综合考虑了服务器性能的差异性;最少连接算法,依据服务器连接数分配用户请求,忽略了请求消耗资源的不同,适用于请求类型单一的集群;预测模式,基于应用程序的行为对处理器分配工作负载,从中选择一台服务器分配用户请求;步骤103、确定是否存在需要强制迁移的处理机:在系统运行过程中,当服务器自身的物理故障或者是人为原因,导致该服务器不能够正常提供服务,此时必须把用户所有的请求强制迁移出去;保证所有的请求在最短时间内迁出;步骤104、检查服务器是否过载:在系统运行过程中,定期的监测系统的运行情况,以服务器设定的过载阈值为基准,判定服务器是否过度负载;该阈值随服务器收到的用户并发量的变化而变化;当服务器在某一段时间接收过多的请求时,适当的调高负载阈值,当服务器较空闲时,则适当降低负载阈值;如果服务器确超过过载阈值,则进行下一步;过载阈值的设定,如果过载阈值设定偏小,则会很容易触发过载迁移策略,导致服务器计算资源的浪费;相反,如果过载阈值设定过大,则很难触发过载迁移或者刚进行过载迁移服务器节点就变得难以恢复导致迁移代价巨大,则会导致某个节点很容易达到用户宕机的红线,所以服务器过载阈值的设定应该有区别性;具体的阈值调整方法为:其中Wold是根据系统性能不同而设定的过载阈值,Wnew为新生成的阈值,N为监测到的用户请求分发到服务器的并发量,Nmin,Nmax为预先设定的过载区间;当N<Nmin时,增大过载阈值,使更多的服务请求能够被接收;反之当N>Nmax时需要减小过载阈值,把超过负载能力的任务迁移出去,防止服务器过于沉重或者宕机;通常k1设置为1.2,k2设置为0.8;步骤105、基于负载感知的迁移服务选取:当服务器过载时,对服务器上的服务进行迁移,究竟选取哪些服务进行迁移而保证系统负载率最小且迁移代价最小是该研究的关键;服务选取方法是一种启发式方法,迭代的选择满足要求的服务进行迁移,具体步骤如下:A、获取服务器上所有服务的集合V,本文档来自技高网
...
一种负载感知的自适应阈值过载迁移方法

【技术保护点】
一种负载感知的自适应阈值过载迁移方法,其特征在于:包括如下步骤:步骤101、初始化变量,开始时首先维护服务信息表,系统在处理机上登记进程的PCB信息,当服务器轻载时,D为本地处理机,S为空,此时系统不存在迁出服务;集群中的所有服务器向负载均衡控制模块发送服务状态信息,负载均衡控制模块协调汇总后生成负载状态表信息;具体步骤为:服务登记信息表是对服务器中正在进行的服务进行记录的一种数据结构,每个服务器节点维护一个服务登记信息表;上述数据结构描述为一个向量αi(P,D,S,T,PCB);其中i表示集群中的第i个服务器,i∈[1,n];P是进程标识符,描述了系统中每一个进程的ID;D是待迁移进程所属的源主机ID;S是待迁移进程所要迁往的目标主机ID;T是迁移过程中的迁移类型,如负载过重迁移、宕机迁移;PCB记录该服务CPU现场信息、堆栈信息、以及进程资源清单等相关信息,用于在目标处理机对迁移服务进行恢复;系统负载状态表是由当前集群系统中所有服务器共同维护的,主要用于描述系统中各台服务器的忙碌程度;系统状态表用一个向量β(N,L,C)来表示;其中N表示为处理机的ID;N∈[S1,S2,S3,...,Sn]L是当前时刻t服务器i的负载值,L详细描述了当前服务器中所有节点的闲忙程度以及可利用状态;...

【技术特征摘要】
1.一种负载感知的自适应阈值过载迁移方法,其特征在于:包括如下步骤:步骤101、初始化变量,开始时首先维护服务信息表,系统在处理机上登记进程的PCB信息,当服务器轻载时,D为本地处理机,S为空,此时系统不存在迁出服务;集群中的所有服务器向负载均衡控制模块发送服务状态信息,负载均衡控制模块协调汇总后生成负载状态表信息;具体步骤为:服务登记信息表是对服务器中正在进行的服务进行记录的一种数据结构,每个服务器节点维护一个服务登记信息表;上述数据结构描述为一个向量αi(P,D,S,T,PCB);其中i表示集群中的第i个服务器,i∈[1,n];P是进程标识符,描述了系统中每一个进程的ID;D是待迁移进程所属的源主机ID;S是待迁移进程所要迁往的目标主机ID;T是迁移过程中的迁移类型,如负载过重迁移、宕机迁移;PCB记录该服务CPU现场信息、堆栈信息、以及进程资源清单等相关信息,用于在目标处理机对迁移服务进行恢复;系统负载状态表是由当前集群系统中所有服务器共同维护的,主要用于描述系统中各台服务器的忙碌程度;系统状态表用一个向量β(N,L,C)来表示;其中N表示为处理机的ID;N∈[S1,S2,S3,...,Sn]L是当前时刻t服务器i的负载值,L详细描述了当前服务器中所有节点的闲忙程度以及可利用状态;其中是第j种服务类型对计算机总开销的贡献值;Cij表示第i台服务器节点第j种服务类型所占的开销;Tij(t)是在t时刻,服务器节点i接受的j服务类型的数目;C代表当前处理机的状态,其中Lo表示当前系统负载均值,当Li大于Lo时,当前服务器为重载,标记为W;当Li小于等于Lo时,表示为轻载服务器,标记为E;当服务器不可用时,标记为D。其中f是跟服务器性能相关的权值,该权值采用加权集合平均数计算得到;步骤102、运行负载均衡算法:根据不同的业务场景部署相应的负载均衡算法:具体为:加权轮询算法,适用于服务器性能相差不大的集群,任务队列的每个成员分配任务的概率相同;随机算法,其中用户请求随机分发给后台的各个服务器,其中,随机函数的选取直接影响算法的好坏;比率算法,依据各个服务器的负载能力分配,权值决定请求的分配概率,综合考虑了服务器性能的差异性;最少连接算法,依据服务器连接数分配用户请求,忽略了请求...

【专利技术属性】
技术研发人员:李国申亚坤丁建立李永华王怀超王帅卿
申请(专利权)人:中国民航大学
类型:发明
国别省市:天津,12

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1