一种动态调整的服务器负载均衡方法及装置制造方法及图纸

技术编号:19938460 阅读:25 留言:0更新日期:2018-12-29 06:38
本发明专利技术公开了一种动态调整的服务器负载均衡方法及装置,应用于负载均衡器及与所述负载均衡器相连接的服务器集群,所述方法至少包括如下步骤:实时监测与所述负载均衡器相连接的每个服务器的当前连接数和响应速度,并根据每个服务器的配置、安装的业务应用、当前连接数以及响应速度,分析每个服务器的处理能力;对服务器集群中的所有服务器按照处理能力由强到弱排列成一轮优先级队列;在负载均衡器接收到服务请求时,将所述服务请求依次分配给所述优先级队列中当前最高优先级的服务器进行处理;重复执行上述步骤,形成新的一轮优先级对列,等待响应服务请求。本发明专利技术能够很好地解决现有负载均衡策略技术缺乏依据服务器实时处理情况进行动态调整的能力的问题。

【技术实现步骤摘要】
一种动态调整的服务器负载均衡方法及装置
本专利技术涉及集群服务器领域,具体涉及一种动态调整的服务器负载均衡方法及装置。
技术介绍
负载均衡技术普遍应用于服务器集群中,由独立的负载均衡软件或硬件,按照设定的负载均衡策略,将服务请求分发至集群中不同的服务器,达到整体服务器集群的处理均衡的目的。目前普遍采用的负载均衡策略均是基于被动均摊的原则,比如轮询策略(Round-Robin),或者带有权重的轮询策略(eightedRound-Robin)。这些均衡策略技术是假设集群中的各服务器具有相似的处理能力,而实际应用中集群内各服务器性能参差不齐,并动态变化。其次,现有的均衡策略技术缺乏依据服务器实时处理情况进行动态调整的能力。
技术实现思路
本专利技术实施例所要解决的技术问题在于,提供一种动态调整的服务器负载均衡方法及装置,能够很好地解决现有负载均衡策略技术缺乏依据服务器实时处理情况进行动态调整的能力的问题。为解决上述问题,本专利技术的一个实施例提供一种动态调整的服务器负载均衡方法,应用于负载均衡器及与所述负载均衡器相连接的服务器集群,至少包括如下步骤:实时监测与所述负载均衡器相连接的每个服务器的当前连接数和响应速度,并根据每个服务器的配置、安装的业务应用、当前连接数以及响应速度,分析每个服务器的处理能力;对服务器集群中的所有服务器按照处理能力由强到弱排列成一轮优先级队列;在负载均衡器接收到服务请求时,将所述服务请求依次分配给所述优先级队列中当前最高优先级的服务器进行处理;重复执行上述步骤,形成新的一轮优先级对列,等待响应服务请求。进一步地,所述对服务器集群中的所有服务器按照处理能力由强到弱排列成一轮优先级队列,具体为:根据每个服务器的不同处理能力,分配不同的权值,使每个服务器能够接受相应权值数的服务请求,并按照权值对服务器集群中的所有服务器进行优先级排列,形成处理能力由强到弱的一轮优先级队列。进一步地,所述在负载均衡器接收到服务请求时,将所述服务请求依次分配给所述优先级队列中当前最高优先级的服务器进行处理,具体为:在负载均衡器接收到服务请求时,根据所述服务器请求的发送顺序,将所述服务请求依次添加至服务请求对列尾部;从所述服务请求对列的头部开始,依序将所述服务请求对列中的服务请求分配给所述优先级队列中当前最高优先级的服务器进行处理。进一步地,所述每个服务器的处理能力指的是每个服务器的响应服务请求的时间,即响应时间。进一步地,所述的动态调整的服务器负载均衡方法,还包括:当检测到与所述负载均衡器相连接的服务器宕机时,自动从服务器集群中剔除该服务器,并在该服务器正常工作后,自动重连。本专利技术的另一个实施例还提供一种动态调整的服务器负载均衡装置,包括:监测模块,用于实时监测与所述负载均衡器相连接的每个服务器的当前连接数和响应速度,并根据每个服务器的配置、安装的业务应用、当前连接数以及响应速度,分析每个服务器的处理能力;优先级队列生成模块,用于对服务器集群中的所有服务器按照处理能力由强到弱排列成一轮优先级队列;服务请求分配模块,用于在负载均衡器接收到服务请求时,将所述服务请求依次分配给所述优先级队列中当前最高优先级的服务器进行处理。进一步地,优先级队列生成模块,具体用于根据每个服务器的不同处理能力,分配不同的权值,使每个服务器能够接受相应权值数的服务请求,并按照权值对服务器集群中的所有服务器进行优先级排列,形成处理能力由强到弱的一轮优先级队列。进一步地,服务请求分配模块,具体用于在负载均衡器接收到服务请求时,根据所述服务器请求的发送顺序,将所述服务请求依次添加至服务请求对列尾部;从所述服务请求对列的头部开始,依序将所述服务请求对列中的服务请求分配给所述优先级队列中当前最高优先级的服务器进行处理。进一步地,所述每个服务器的处理能力指的是每个服务器的响应服务请求的时间,即响应时间。进一步地,所述的动态调整的服务器负载均衡装置,还包括:监测模块,还用于当检测到与所述负载均衡器相连接的服务器宕机时,自动从服务器集群中剔除该服务器,并在该服务器正常工作后,自动重连。实施本专利技术实施例,具有如下有益效果:本专利技术实施例提供的一种动态调整的服务器负载均衡方法及装置,应用于负载均衡器及与所述负载均衡器相连接的服务器集群,所述方法至少包括如下步骤:实时监测与所述负载均衡器相连接的每个服务器的当前连接数和响应速度,并根据每个服务器的配置、安装的业务应用、当前连接数以及响应速度,分析每个服务器的处理能力;对服务器集群中的所有服务器按照处理能力由强到弱排列成一轮优先级队列;在负载均衡器接收到服务请求时,将所述服务请求依次分配给所述优先级队列中当前最高优先级的服务器进行处理;重复执行上述步骤,形成新的一轮优先级对列,等待响应服务请求。本专利技术能够很好地解决现有负载均衡策略技术缺乏依据服务器实时处理情况进行动态调整的能力的问题。附图说明图1为本专利技术的一个实施例提供的一种动态调整的服务器负载均衡方法的流程示意图;图2为本专利技术的另一个实施例提供的本专利技术的一个实施例提供的一种动态调整的服务器负载均衡装置的结构示意图。具体实施方式下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本专利技术一部分实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本专利技术保护的范围。如图1所示,本专利技术的一个实施例提供的一种动态调整的服务器负载均衡方法,应用于负载均衡器及与所述负载均衡器相连接的服务器集群,至少包括如下步骤:S101、实时监测与所述负载均衡器相连接的每个服务器的当前连接数和响应速度,并根据每个服务器的配置、安装的业务应用、当前连接数以及响应速度,分析每个服务器的处理能力;S102、对服务器集群中的所有服务器按照处理能力由强到弱排列成一轮优先级队列;S103、在负载均衡器接收到服务请求时,将所述服务请求依次分配给所述优先级队列中当前最高优先级的服务器进行处理;重复执行上述步骤,形成新的一轮优先级对列,等待响应服务请求。在本实施例中,负载均衡器内部维护一个优先级队列(PriorityQueue),按服务器处理能力由强到弱的顺序进行排序,这样,负载均衡器每次分发请求均从该优先级队列中依次取得平均处理能力最强,即响应和时间最小的服务器地址进行分发,直至队列中的服务器均使用,并重复该过程,达到动态优化负载均衡策略的目的。其中,所述对服务器集群中的所有服务器按照处理能力由强到弱排列成一轮优先级队列,具体为:根据每个服务器的不同处理能力,分配不同的权值,使每个服务器能够接受相应权值数的服务请求,并按照权值对服务器集群中的所有服务器进行优先级排列,形成处理能力由强到弱的一轮优先级队列。在本实施例中,假设采用Nginx负载均衡配置,如下:那么,按照上述配置,Nginx每收到7个客户端的请求,会把其中的1个转发给后端a,把其中的2个转发给后端b,把其中的4个转发给后端c。可以理解的是,本实施例采用加权轮询算法的结果,就是要生成一个服务器序列。每当有请求到来时,就依次从该序列中取出下一个服务器用于处理该请求。比如针对上面的例子,加权轮询算法会生成序列{c,c,b,c,a,本文档来自技高网...

【技术保护点】
1.一种动态调整的服务器负载均衡方法,应用于负载均衡器及与所述负载均衡器相连接的服务器集群,其特征在于,至少包括如下步骤:实时监测与所述负载均衡器相连接的每个服务器的当前连接数和响应速度,并根据每个服务器的配置、安装的业务应用、当前连接数以及响应速度,分析每个服务器的处理能力;对服务器集群中的所有服务器按照处理能力由强到弱排列成一轮优先级队列;在负载均衡器接收到服务请求时,将所述服务请求依次分配给所述优先级队列中当前最高优先级的服务器进行处理;重复执行上述步骤,形成新的一轮优先级对列,等待响应服务请求。

【技术特征摘要】
1.一种动态调整的服务器负载均衡方法,应用于负载均衡器及与所述负载均衡器相连接的服务器集群,其特征在于,至少包括如下步骤:实时监测与所述负载均衡器相连接的每个服务器的当前连接数和响应速度,并根据每个服务器的配置、安装的业务应用、当前连接数以及响应速度,分析每个服务器的处理能力;对服务器集群中的所有服务器按照处理能力由强到弱排列成一轮优先级队列;在负载均衡器接收到服务请求时,将所述服务请求依次分配给所述优先级队列中当前最高优先级的服务器进行处理;重复执行上述步骤,形成新的一轮优先级对列,等待响应服务请求。2.根据权利要求1所述的动态调整的服务器负载均衡方法,其特征在于,所述对服务器集群中的所有服务器按照处理能力由强到弱排列成一轮优先级队列,具体为:根据每个服务器的不同处理能力,分配不同的权值,使每个服务器能够接受相应权值数的服务请求,并按照权值对服务器集群中的所有服务器进行优先级排列,形成处理能力由强到弱的一轮优先级队列。3.根据权利要求1所述的动态调整的服务器负载均衡方法,其特征在于,所述在负载均衡器接收到服务请求时,将所述服务请求依次分配给所述优先级队列中当前最高优先级的服务器进行处理,具体为:在负载均衡器接收到服务请求时,根据所述服务器请求的发送顺序,将所述服务请求依次添加至服务请求对列尾部;从所述服务请求对列的头部开始,依序将所述服务请求对列中的服务请求分配给所述优先级队列中当前最高优先级的服务器进行处理。4.根据权利要求1所述的动态调整的服务器负载均衡方法,其特征在于,所述每个服务器的处理能力指的是每个服务器的响应服务请求的时间,即响应时间。5.根据权利要求1所述的动态调整的服务器负载均衡方法,其特征在于,还包括:当检测到与所述负载...

【专利技术属性】
技术研发人员:潘仲毅林立磐彭子非陈朝辉秦熹旻刘智国李伟钟东江国亮
申请(专利权)人:广东省信息工程有限公司
类型:发明
国别省市:广东,44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1