一种负载调度方法及装置制造方法及图纸

技术编号:20224613 阅读:35 留言:0更新日期:2019-01-28 22:38
本申请实施例提供了一种负载调度方法及装置,所述方法包括:在向一后台服务器进行一次健康探测操作后,若所述健康探测操作失败,则根据健康探测操作连续失败总次数,动态的降低对应所述后台服务器的负载均衡权重;在接收到客户端的访问请求后,按照预置的调度规则分配所述访问请求至一后台服务器;其中,所述调度规则包括:将访问请求优先分发给负载均衡权重高的后台服务器的概率,高于负载均衡权重低的后台服务器的概率。本申请实施例通过实现动态调整服务器权重的功能,解决现有技术中无法实时获取服务器状态,而导致发送到故障服务器的请求无法响应的问题。

【技术实现步骤摘要】
一种负载调度方法及装置
本申请涉及信息
,特别是涉及一种负载调度方法及装置。
技术介绍
随着信息技术的不断发展,在信息传输过程中,为了更好的满足用户各种服务请求,负载调度是不可或缺的。其中,负载均衡中场使用健康监听方式,监听服务器的服务健康状态来实现更好的调度需求,目前,在监听服务器时会使用定时发送监听消息至服务器的方法,而发送监听消息的次数是预置的,当在预设次数的监听消息都没有发送成功,则将该服务器的预置权重值重置为0,以避免再将新的服务请求发送到该服务器。如此虽然可以避免对故障服务器发送服务请求,但是在健康监听检查的时间段内,即没有进行完成预设次数的健康监听的时间段内,故障服务器的权重值仍没有设置为0,因为依然会被调度到,造成用户发送的服务请求得不到响应,降低了用户体验。
技术实现思路
鉴于上述问题,本申请提供负载调度方法、装置和系统,可以通过向后台服务器进行健康探测的结果,动态调整对应所述后台服务器的负载均衡权重,并按照权重设置分配用户访问请求,解决现有技术中无法准确得知服务器状态,而将新的服务请求发送到故障服务器而得不到响应的问题。为了解决上述问题,本申请实施例公开了一种负载调度方法,包括:在向一后台服务器进行一次健康探测操作后,若所述健康探测操作失败,则根据健康探测操作连续失败总次数,动态的降低对应所述后台服务器的负载均衡权重;在接收到客户端的访问请求后,按照预置的调度规则分配所述访问请求至一后台服务器;其中,所述调度规则包括:将访问请求优先分发给负载均衡权重高的后台服务器的概率,高于负载均衡权重低的后台服务器的概率。本申请实施例还提供了一种负载调度方法,其特征在于,包括:对后台服务器进行健康探测操作;根据健康探测操作的结果,调整所述后台服务器的负载均衡权重;根据所述负载均衡权重,调整相应后台服务器被分发访问请求的概率;其中,所述负载均衡权重与所述概率正相关。本申请实施例公开了一种负载调度装置,包括:权重调整模块,用于在向一后台服务器进行一次健康探测操作后,若所述健康探测操作失败,则根据健康探测操作连续失败总次数,动态的降低对应所述后台服务器的负载均衡权重;负载调度模块,用于在接收到客户端的访问请求后,按照预置的调度规则分配所述访问请求至一后台服务器;其中,所述调度规则包括:将访问请求优先分发给负载均衡权重高的后台服务器的概率,高于负载均衡权重低的后台服务器的概率。相应的,本申请实施例还提供了一种负载调度装置,其特征在于,包括:健康探测模块,用于对后台服务器进行健康探测操作;负载均衡权重调整模块,用于根据健康探测操作的结果,调整所述后台服务器的负载均衡权重;请求概率调度模块,用于根据所述负载均衡权重,调整相应后台服务器被分发访问请求的概率;其中,所述负载均衡权重与所述概率正相关。本申请实施例公开了一种负载调度系统,其特征在于,包括:至少一台虚拟服务器,和多台后台服务器;每台虚拟服务器分别与所述多台后台服务器连接;所述虚拟服务器包括:权重调整模块,用于在向一后台服务器进行一次健康探测操作后,若所述健康探测操作失败,则根据健康探测操作连续失败总次数,动态的降低对应所述后台服务器的负载均衡权重;负载调度模块,用于在接收到客户端的访问请求后,按照预置的调度规则分配所述访问请求至一后台服务器;其中,所述调度规则包括:将访问请求优先分发给负载均衡权重高的后台服务器的概率,高于负载均衡权重低的后台服务器的概率。相应的,申请实施例还公开了一种负载调度系统,其特征在于,包括:至少一台虚拟服务器,和多台后台服务器;每台虚拟服务器分别与所述多台后台服务器连接;所述虚拟服务器包括:健康探测模块,用于对后台服务器进行健康探测操作;负载均衡权重调整模块,用于根据健康探测操作的结果,调整所述后台服务器的负载均衡权重;请求概率调度模块,用于根据所述负载均衡权重,调整相应后台服务器被分发访问请求的概率;其中,所述负载均衡权重与所述概率正相关。申请实施例还公开了一种装置,其特征在于,包括:一个或多个处理器;和其上存储有指令的一个或多个机器可读介质,当由所述一个或多个处理器执行时,使得所述装置执行如前述的一种负载调度方法。申请实施例还公开了一个或多个机器可读介质,其上存储有指令,当由一个或多个处理器执行时,使得装置执行如前述的一种负载调度方法。本申请实施例包括以下优点:本申请实施例通过在向一后台服务器进行一次健康探测操作后,若所述健康探测操作失败,则根据健康探测操作连续失败总次数,动态的降低对应所述后台服务器的负载均衡权重;在接收到客户端的访问请求后,按照预置的调度规则分配所述访问请求至一后台服务器;其中,所述调度规则包括:将访问请求优先分发给负载均衡权重高的后台服务器的概率,高于负载均衡权重低的后台服务器的概率。实现了动态设置服务器权重,并按照该权重调度服务器的功能,从而解决了现有技术中无法准确得知服务器状态,而将服务请求发送到故障服务器而得不到响应的问题。附图说明图1是本申请的一种负载调度方法实施例的步骤流程图;图1A是本申请实施例中的负载均衡集群架构示意图;图2是本申请的一种负载调度方法可选实施例的步骤流程图;图2A是本申请的一种健康探测消息发送示意图;图3是本申请的另一种负载调度方法可选实施例的步骤流程图;图4是本申请的一种负载调度装置实施例的结构框图;图5为本申请的一种负载调度装置实施例的结构框图;图6是本申请的另一种负载调度装置实施例的结构框图;图7是本申请的一种负载调度系统实施例的结构框;图8是本申请的另一种负载调度系统实施例的结构框;图9是本申请实施例提供的一种服务器结构示意图。具体实施方式为使本申请的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本申请作进一步详细的说明。LVS(LinuxVirtualServer,Linux虚拟服务器),是一个虚拟的服务器集群系统,用于负载均衡,可根据当前实例的负载调度当前的访问到后端的服务器。实例为对应负载均衡的一个VIP(VirtualIP,虚拟地址),用户可以创建一个负载均衡的实例,一个负载均衡的实例可以创建多个负载均衡的监听。用户所连接的目标地址实际上是一个VIP,而负载平衡服务器在接到该请求的时候将会将其目标地址转化为服务实例所在的RIP(RealIP实际地址),并将源地址更改为LoadBalancer(负载均衡服务器)所在的地址。这样在对请求处理完毕后,服务实例将会把响应发送到负载平衡服务器。此时负载平衡服务器再将响应的地址更改为VIP,并将该响应返回给用户。监听:一个实例下的监听为负载均衡的VIP与端口的组合,不同的端口可对应不同的服务。RS(realserver,后端真实服务器),一个监听后面通常会对应多个后端的RS来实现服务器的高可用性。健康检查:LVS负载均衡设备会定期的对后端对RS进行访问探测,用户可以设置健康检查不可用的探测次数,如果访问探测失败次数达到用户设置的不健康检测阈值,就认为后端的RS此时不可用,会将该RS的负载均衡权重置为0以隔离该RS,当健康检查探测成功后又会重新设置RS的负载均衡权重。在本申请实施例中,每次健康检查过程都是独立的,对于每次健康检查都会设置一个连续探测失败次数的不健康阈值。比如不健康阈值本文档来自技高网...

【技术保护点】
1.一种负载调度方法,其特征在于,包括:在向一后台服务器进行一次健康探测操作后,若所述健康探测操作失败,则根据健康探测操作连续失败总次数,动态的降低对应所述后台服务器的负载均衡权重;在接收到客户端的访问请求后,按照预置的调度规则分配所述访问请求至一后台服务器;其中,所述调度规则包括:将访问请求优先分发给负载均衡权重高的后台服务器的概率,高于负载均衡权重低的后台服务器的概率。

【技术特征摘要】
1.一种负载调度方法,其特征在于,包括:在向一后台服务器进行一次健康探测操作后,若所述健康探测操作失败,则根据健康探测操作连续失败总次数,动态的降低对应所述后台服务器的负载均衡权重;在接收到客户端的访问请求后,按照预置的调度规则分配所述访问请求至一后台服务器;其中,所述调度规则包括:将访问请求优先分发给负载均衡权重高的后台服务器的概率,高于负载均衡权重低的后台服务器的概率。2.根据权利要求1所述的方法,其特征在于,所述在向一后台服务器进行一次健康探测操作后,若所述健康探测操作失败,则根据健康探测操作连续失败总次数,动态的降低对应所述后台服务器的负载均衡权重的步骤,包括:在向一后台服务器进行一次健康探测操作后,若所述健康探测操作失败,则在上次健康探测操作后对应所述后台服务器的负载均衡权重的基础上,根据健康探测操作连续失败总次数和设定变量值,降低所述负载均衡权重。3.根据权利要求2所述的方法,其特征在于,所述设定变量值通过所述后台服务器的初始负载均衡权重与连续健康探测操作失败次数的失败阈值的正相关关系获得。4.根据权利要求1其中之一所述的方法,其特征在于,由虚拟服务器中的探测实例的监听线程进行所述健康探测操作。5.根据权利要求4所述的方法,其特征在于,当所述探测实例为TCP类型实例时,所述向一后台服务器进行一次健康探测操作包括:向一后台服务器发送TCP连接报文;当接收到针对所述TCP连接报文的响应不为sync+ack报文时,表示所述健康探测操作失败。6.根据权利要求4所述的方法,其特征在于,当所述探测实例为UDP类型实例时,所述向一后台服务器进行一次健康探测操作包括:向一后台服务器发送UDP探测报文;当接收到针对所述UDP探测报文的响应不为icmp端口不可达报文时,表示所述健康探测操作失败。7.根据权利要求4所述的方法,其特征在于,当所述探测实例为HTTP类型实例时,所述向一后台服务器进行一次健康探测操作包括:向一后台服务器发送httphead请求;当接收到针对所述httphead请求的http状态码不为200时,表示所述健康探测操作失败。8.根据权利要求4所述的方法,其特征在于,所述在接收到客户端的访问请求后,按照预置的调度规则分配所述访问请求至一后台服务器包括:确定所述访问请求对应的服务;从所述提供所述服务的后端服务器中,按照预置的调度规则选择一台后台服务器以分配所述访问请求。9.根据权利要求1-3其中之一所述的方法,其特征在于,还包括:当所述负载均衡权重减少到设定权重阈值后,隔离所述后台服务器。10.一种负载调度方法,其特征在于,包括:对后台服务器进行健康探测操作;根据健康探测操作的结果,调整所述后台服务器的负载均衡权重;根据所述负载均衡权重,调整相应后台服务器被分发访问请求的概率;其中,所述负载均衡权重与所述概率正相关。11.根据权利要求10所述的方法,其特征在于,所述根据健康探测操作的结果,调整所述后台服务器的负载均衡权重的步骤,包括:若所述健康探测操作失败,则根据健康探测操作连续失败总次数,降低对应所述后台服务器的负载均衡权重。12.根据权利要求10所述的方法,其特征在于,所述根据健康探测操作的结果,调整所述后台服务器的负载均衡权重的步骤,包括:若所述健康探测操作成功,则根据健康探测操作连续成功...

【专利技术属性】
技术研发人员:侯庆政李库祝顺民
申请(专利权)人:阿里巴巴集团控股有限公司
类型:发明
国别省市:开曼群岛,KY

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1