负载均衡中的被动健康检查方法、装置、设备及介质制造方法及图纸

技术编号:38927193 阅读:28 留言:0更新日期:2023-09-25 09:34
本发明专利技术公开了一种负载均衡中的被动健康检查方法、装置、设备及介质,包括:采集后端服务器的健康状态数据并上报至数据工厂;获取原始的服务日志、系统日志及网卡状态数据进行预处理,提取并输出目标特征数据;将所述目标特征数据输入预设决策模型,判断后端服务器的健康状态是否发生改变,触发主动探测;在当前业务请求失败次数大于预设阈值的情况下,更新后端服务器的健康状态完成对被动健康检查机制的启动;判断是否对当前请求处理失败的后端服务器进行调度权重的调整以控制在后端服务器出现问题时被调度的概率,降低首次连接失败的概率,从而避免重新请求引起的低效率现象,及时感知后端服务器的健康状态。时感知后端服务器的健康状态。时感知后端服务器的健康状态。

【技术实现步骤摘要】
负载均衡中的被动健康检查方法、装置、设备及介质


[0001]本专利技术涉及负载均衡
,尤其涉及一种负载均衡中的被动健康检查方法、装置、设备及介质。

技术介绍

[0002]对于负载均衡器的健康检查来说,一般有两种模式:主动健康检查和被动健康检查。主动健康检查指的是周期性地发送探测请求,来感知后端服务器的健康状态。而被动健康检查机制不会主动发起探测请求,而是根据业务请求失败的次数来判断服务器的状态是否为失败。如果失败超过一定时间,则自动恢复为健康状态。现有技术中,被动健康检查方式一般会结合主动健康检查一起使用。它的原理描述如下:1,在RS为“正常”的状态下,负载均衡系统不会主动向RS发送探测请求。2,在RS为“正常”的状态下,如果RS处理业务请求连续失败的次数超过一定阈值,则改变RS的健康状态为“失败”。3,在RS为“失败”的状态下,负载均衡系统向RS发送探测请求。4,在RS为“失败”的状态下,如果连续探测成功的次数到达一定的阈值,则改变RS的健康状态为“正常”。
[0003]虽然被动健康检查在结合主动健康检查后,能够解决很多场景,但是它不可避免地存在如下缺陷:
[0004]1、请求效率低,参见附图1所示,同一个请求只会连接一个服务一次。首先,当前RS

1和RS

2的健康状态都是显示正常,而实际上RS

1的状态是不健康。那么,请求1连接RS

1失败了,则下一次选择RS

2进行连接。同理,请求2,请求3都会有两次连接的情况。因此,这种机制存在的问题是在请求RS

1的失败总次数还没有达到上线的时候,每一个请求都需要连接两次,这样会影响请求的效率。
[0005]2、无法及时感知后端服务器的健康状态。尤其在业务请求频度较低,比如:对某个RS,几分钟才有一个请求的情况下,对于负载均衡器来说,无法及时发现后端服务器的状态。
[0006]鉴于此,有必要提出一种负载均衡中的被动健康检查方法克服上述缺陷。

技术实现思路

[0007]本专利技术的目的是提供一种负载均衡中的被动健康检查方法、装置、设备及介质,降低首次连接失败的概率,从而避免重新请求引起的低效率现象。
[0008]本专利技术提供了一种负载均衡中的被动健康检查方法,包括:
[0009]从负载均衡系统向后端服务器发送请求来获取后端服务器运行的状况;
[0010]采集后端服务器的健康状态数据并上报至数据工厂,后端服务器的健康状态数据包括服务日志特征集、系统日志特征集及网卡状态特征集;
[0011]获取原始的服务日志、系统日志及网卡状态数据进行预处理,提取并输出目标特征数据;
[0012]将所述目标特征数据输入预设决策模型,判断后端服务器的健康状态是否发生改
变,在后端服务器的健康状态发生改变的情况触发主动探测;
[0013]在当前业务请求失败次数大于预设阈值的情况下,更新后端服务器的健康状态完成对被动健康检查机制的启动;
[0014]在当前业务请求失败的情况下,判断是否对当前请求处理失败的后端服务器进行调度权重的调整以控制在后端服务器出现问题时被调度的概率。
[0015]作为优选地,所述提取并输出目标特征数据包括:
[0016]获取当前后端服务器的健康状态数据上报至数据工厂;
[0017]在数据工厂中进行原始健康状态数据的存储及加工处理,通过自然语言处理算法将不同格式的若干健康状态数据进行有效数据的提取,推导出相应的目标特征数据并进行提取及存储。
[0018]作为优选地,所述服务日志特征集包括异步请求队列长度以及请求入队的速率、请求处理的速率,服务端/客户端错误以及错误发生次数、错误发生时间点,所述系统日志特征集包括当前系统状态、CPU利用率、磁盘使用率、内存使用率、负载情况、错误日志统计、error次数、Critical次数、Alert次数和Emerg次数,所述网卡状态特征集包括网卡名称、网卡的队列长度、网卡的丢包率和网卡带宽使用情况。
[0019]作为优选地,所述将所述目标特征数据输入预设决策模型,判断后端服务器的健康状态是否发生改变,在后端服务器的健康状态发生改变的情况触发主动探测包括:
[0020]获取当前所述目标特征数据,判断后端服务器的所述目标特征数据是否更新;
[0021]在所述目标特征数据更新的情况下,通过预设决策模型输出后端服务器的健康状态,判断后端服务器的健康状态是否发生改变;
[0022]在后端服务器的健康状态发生改变的情况下,触发主动探测从而决定是否更新健康状态。
[0023]作为优选地,在所述目标特征数据更新的情况下,通过预设决策模型输出后端服务器的健康状态,判断后端服务器的健康状态是否发生改变包括:
[0024]获取当前负载均衡系统中的后端服务器的第一健康状态;
[0025]获取当前后端服务器的第二健康状态;
[0026]将所述第一健康状态与所述第二健康状态作对比,判断二者健康状态是否一致;
[0027]在二者健康状态不一致的情况下,则触发主动探测请求得到最终的健康检查结果。
[0028]作为优选地,所述在当前业务请求失败的情况下,判断是否对当前请求处理失败的后端服务器进行调度权重的调整以控制在后端服务器出现问题时被调度的概率包括:
[0029]在当前业务请求失败次数大于预设阈值时,输出并更新后端服务器的健康状态为不健康;
[0030]在当前业务请求失败次数小于等于预设阈值时,继续进行后续的业务请求中显示后端服务器请求成功,则将对当前统计的失败次数归零;
[0031]判断是否对当前后端服务器进行调度权重的降低处理,在对降低处理后的后端服务器的调度权重进行恢复。
[0032]作为优选地,所述提取并输出目标特征数据进一步包括:从负载均衡系统向数据工厂对感兴趣的后端服务器目标特征数据进行监听以监控后端服务器的状态。
[0033]本专利技术提供了一种负载均衡中的被动健康检查装置,包括:
[0034]后端服务器,用于从负载均衡系统向后端服务器发送请求来获取后端服务器运行的状况;采集后端服务器的健康状态数据并上报至数据工厂,后端服务器的健康状态数据包括服务日志特征集、系统日志特征集及网卡状态特征集;
[0035]数据工厂,用于获取原始的服务日志、系统日志及网卡状态数据进行预处理,提取并输出目标特征数据;
[0036]负载均衡系统,用于将所述目标特征数据输入预设决策模型,判断后端服务器的健康状态是否发生改变,在后端服务器的健康状态发生改变的情况触发主动探测;在当前业务请求失败次数大于预设阈值的情况下,更新后端服务器的健康状态完成对被动健康检查机制的启动;在当前业务请求失败的情况下,判断是否对当前请求处理失败的后端服务器进行调度权重的调整以控制在后端服务器出现问题时被调度的概率。
[0037]本专利技术还提供本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种负载均衡中的被动健康检查方法,其特征在于,包括:从负载均衡系统向后端服务器发送请求来获取后端服务器运行的状况;采集后端服务器的健康状态数据并上报至数据工厂,后端服务器的健康状态数据包括服务日志特征集、系统日志特征集及网卡状态特征集;获取原始的服务日志、系统日志及网卡状态数据进行预处理,提取并输出目标特征数据;将所述目标特征数据输入预设决策模型,判断后端服务器的健康状态是否发生改变,在后端服务器的健康状态发生改变的情况触发主动探测;在当前业务请求失败次数大于预设阈值的情况下,更新后端服务器的健康状态完成对被动健康检查机制的启动;在当前业务请求失败的情况下,判断是否对当前请求处理失败的后端服务器进行调度权重的调整以控制在后端服务器出现问题时被调度的概率。2.如权利要求1所述的负载均衡中的被动健康检查方法,其特征在于,所述提取并输出目标特征数据包括:获取当前后端服务器的健康状态数据上报至数据工厂;在数据工厂中进行原始健康状态数据的存储及加工处理,通过自然语言处理算法将不同格式的若干健康状态数据进行有效数据的提取,推导出相应的目标特征数据并进行提取及存储。3.如权利要求1所述的负载均衡中的被动健康检查方法,其特征在于,所述服务日志特征集包括异步请求队列长度以及请求入队的速率、请求处理的速率,服务端/客户端错误以及错误发生次数、错误发生时间点,所述系统日志特征集包括当前系统状态、CPU利用率、磁盘使用率、内存使用率、负载情况、错误日志统计、error次数、Critical次数、Alert次数和Emerg次数,所述网卡状态特征集包括网卡名称、网卡的队列长度、网卡的丢包率和网卡带宽使用情况。4.如权利要求1所述的负载均衡中的被动健康检查方法,其特征在于,所述将所述目标特征数据输入预设决策模型,判断后端服务器的健康状态是否发生改变,在后端服务器的健康状态发生改变的情况触发主动探测包括:获取当前所述目标特征数据,判断后端服务器的所述目标特征数据是否更新;在所述目标特征数据更新的情况下,通过预设决策模型输出后端服务器的健康状态,判断后端服务器的健康状态是否发生改变;在后端服务器的健康状态发生改变的情况下,触发主动探测从而决定是否更新健康状态。5.如权利要求1所述的负载均衡中的被动健康检查方法,其特征在于,在所述目标特征数据更新的情况下,通过预设决策模型输出后端服务器的健康状态,判断后端服务器的健...

【专利技术属性】
技术研发人员:包雯韬徐文豪王弘毅张凯
申请(专利权)人:北京志凌海纳科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1