流量的分配方法、装置、存储介质以及电子设备制造方法及图纸

技术编号:38323725 阅读:26 留言:0更新日期:2023-07-29 09:06
本申请公开了一种流量的分配方法、装置、存储介质以及电子设备。涉及云计算技术领域。该方法包括:识别流经目标网关的目标流量,并确定用于处理目标流量的集群,得到目标集群;在目标集群中选取任意代理容器,得到目标代理容器,确定目标代理容器关联的失败率,并确定目标集群的健康率;判断失败率是否为异常值,并判断健康率是否为异常值,在失败率或健康率为异常值的情况下,控制目标网关将目标流量发送至候选代理容器对应的服务端。通过本申请,解决了相关技术中无法感知各服务集群的流量压力,导致服务集群在处理业务流量时出现异常的问题。的问题。的问题。

【技术实现步骤摘要】
流量的分配方法、装置、存储介质以及电子设备


[0001]本申请涉及云计算
,具体而言,涉及一种流量的分配方法、装置、存储介质以及电子设备。

技术介绍

[0002]随着分布式微服务的不断发展,微服务集群规模不断扩大,为保证服务调用高可用,往往会部署多个提供方微服务集群共同对外提供服务。为保障业务运行稳定同时最大限度利用服务集群资源,需要采用多集群间的流量负载均衡的方式进行服务集群资源利用。
[0003]当前主流的多集群负载均衡方案是基于智能域名的流量分片负载。多个业务片区对应多个服务集群,多个服务集群共同挂载至同一个智能域名,智能域名DNS设备在收到一笔业务流量后通过调用端片区属性转发至与其对应的服务集群,若与其对应的服务集群中不存在提供者则随机负载至其它服务集群。
[0004]但是,智能域名DNS仅是一个单纯的流量负载均衡设备,无法感知各服务集群的流量压力,在各业务片区流量不均衡情况下,会导致个别集群负载过重从而出现大量业务调用超时失败,但是其它集群的服务资源却大量闲置,造成算力浪费的现象发生,使得多个服务集群间无法合理调本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种流量的分配方法,其特征在于,包括:识别流经目标网关的目标流量,并确定用于处理所述目标流量的集群,得到目标集群,其中,所述目标集群中包括多个服务端,以及每个服务端的代理容器;在所述目标集群中选取任意代理容器,得到目标代理容器,确定所述目标代理容器关联的失败率,并确定所述目标集群的健康率,其中,所述失败率为所述目标代理容器监控的服务端处理流量业务的失败率,所述健康率由所述目标集群中的多个服务端的运行状态决定;判断所述失败率是否为异常值,并判断所述健康率是否为异常值,在所述失败率或所述健康率为异常值的情况下,控制所述目标网关将所述目标流量发送至候选代理容器对应的服务端,其中,所述候选代理容器位于所述目标集群中,或位于其余集群中。2.根据权利要求1所述的方法,其特征在于,在所述失败率或所述健康率为异常值的情况下,控制所述目标网关将所述目标流量发送至候选代理容器对应的服务端包括:在所述失败率为异常值的情况下,从所述目标集群中选取除所述目标代理容器之外的任意代理容器,得到所述候选代理容器,并控制所述目标网关将所述目标流量发送至候选代理容器对应的服务端;在所述健康率为异常值的情况下,确定当前时刻所述目标集群接收到的总流量,并确定所述总流量与所述目标集群的最大处理流量之间的比值,得到目标比值;判断所述目标比值是否大于所述健康率,并在所述目标比值大于所述健康率的情况下,将所述目标流量发送至其余集群中的任意代理容器中,其中,所述其余集群为非目标集群之外的任意集群。3.根据权利要求1所述的方法,其特征在于,确定用于处理所述目标流量的集群,得到目标集群包括:识别发送所述目标流量的用户端,得到目标用户端;通过预设配置表确定所述目标用户端关联的集群,得到所述目标集群,其中,所述预设配置表中包括多个用户端,以及每个用户端关联的集群。4.根据权利要求1所述的方法,其特征在于,确定所述目标集群的健康率包括:获取所述目标集群中的每个服务端的当前状态,得到多个当前状态;确定所述当前状态为正常的服务端的数量,得到第一数量;获取所述目标集群的服务端总数量,并计算所述第一数量与所述总数量的比值,得到所述健康率。5.根据权利要求1所述的方法,其特征在于,判断所述失败率是否为异常值,并判断所述健康率是否为异常值包括:判断所述失败率是否大于失败率阈值;在所述失败率大于所述失败率阈值的情况下,确定所述失败率为异常值;判断所述健康率是否大于健康率阈值;在所...

【专利技术属性】
技术研发人员:刘成锋王鹏培凌晨韩越
申请(专利权)人:中国工商银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1