分布式系统及流量控制方法技术方案

技术编号:39809149 阅读:8 留言:0更新日期:2023-12-22 02:44
本公开提供了一种分布式系统及流量控制方法

【技术实现步骤摘要】
分布式系统及流量控制方法、装置、设备和介质


[0001]本公开涉及人工智能
,具体为云计算

云存储等
,尤其涉及一种分布式系统及流量控制方法

装置

设备和介质


技术介绍

[0002]网盘服务端为多种业务请求提供通用的缓存服务

随着业务量的增多,会出现部分业务的流量突增,影响其他业务的情况

为此需要解决如何提高系统稳定性的问题


技术实现思路

[0003]本公开提供了一种分布式系统及流量控制方法

装置

设备和介质

[0004]根据本公开的一方面,提供了一种分布式系统,包括:代理服务集群,用于对客户端发送的业务请求进行统计,以获得目标业务的第一流量;以及,若存在针对所述目标业务的限流策略,基于所述限流策略对所述目标业务进行限流处理;局部服务集群,用于对同一部署区域内的代理服务集群发送的所述第一流量进行统计,以获得所述目标业务的第二流量;以及,若已生成所述限流策略,将所述限流策略发送给所述代理服务集群,其中,所述限流策略是在所述目标业务的全局流量大于预设阈值时生成的;全局服务集群,用于对所述局部服务集群发送的所述第二流量进行统计,以获得所述目标业务的所述全局流量,并将所述全局流量发送给所述局部服务集群

[0005]根据本公开的另一方面,提供了一种流量控制方法,包括:接收同一部署区域内的代理服务集群发送的目标业务的第一流量,所述第一流量是所述代理服务集群对客户端发送的业务请求进行统计后获得的;对所述第一流量进行统计,以获得所述目标业务的第二流量,并将所述第二流量发送给全局服务集群;接收所述全局服务集群发送的所述目标业务的全局流量,所述全局流量是所述全局服务集群对所述第二流量进行统计后获得的;若所述全局流量大于预设阈值,生成针对所述目标业务的限流策略;将所述限流策略发送给所述代理服务集群,以使所述代理服务集群基于所述限流策略对所述目标业务进行限流处理

[0006]根据本公开的另一方面,提供了一种流量控制方法,包括:接收同一部署区域内的代理服务集群发送的目标业务的第一流量,所述第一流量是所述代理服务集群对客户端发送的业务请求进行统计后获得的;对所述第一流量进行统计,以获得所述目标业务的第二流量,并将所述第二流量发送给全局服务集群;接收所述全局服务集群发送的所述目标业务的全局流量,所述全局流量是所述全局服务集群对所述第二流量进行统计后获得的;若所述全局流量大于预设阈值,生成针对所述目标业务的限流策略;将所述限流策略发送给所述代理服务集群,以使所述代理服务集群基于所述限流策略对所述目标业务进行限流处理

[0007]根据本公开的另一方面,提供了一种流量控制方法,包括:对客户端发送的业务请求进行统计,以获得目标业务的第一流量;将所述第一流量发送给同一部署区域内的局部
服务集群,以使所述局部服务集群对所述第一流量进行统计后获得所述目标业务的第二流量,所述第二流量被所述局部服务集群发送给全局服务集群,以使所述全局服务集群对所述第二流量进行统计后获得所述目标业务的全局流量;接收所述局部服务集群发送的针对所述目标业务的限流策略,所述限流策略是所述局部服务集群在所述全局流量大于预设阈值时生成的;基于所述限流策略对所述目标业务进行限流处理

[0008]根据本公开的另一方面,提供了一种流量控制装置,包括:第一接收模块,用于接收同一部署区域内的代理服务集群发送的目标业务的第一流量,所述第一流量是所述代理服务集群对客户端发送的业务请求进行统计后获得的;统计模块,用于对所述第一流量进行统计,以获得所述目标业务的第二流量,并将所述第二流量发送给全局服务集群;第二接收模块,用于接收所述全局服务集群发送的所述目标业务的全局流量,所述全局流量是所述全局服务集群对所述第二流量进行统计后获得的;生成模块,用于若所述全局流量大于预设阈值,生成针对所述目标业务的限流策略;发送模块,用于将所述限流策略发送给所述代理服务集群,以使所述代理服务集群基于所述限流策略对所述目标业务进行限流处理

[0009]根据本公开的另一方面,提供了一种流量控制装置,包括:接收模块,用于接收局部服务集群发送的目标业务的第二流量,所述第二流量是所述局部服务集群对第一流量进行统计后获得的,所述第一流量是代理服务集群对客户端发送的业务请求进行统计后获得的;统计模块,用于对所述第二流量进行统计,以获得所述目标业务的全局流量;发送模块,用于将所述全局流量发送给所述局部服务集群,以使所述局部服务集群在所述全局流量大于预设阈值时生成针对所述目标业务的限流策略,所述限流策略被所述局部服务集群发送给所述代理服务集群,以使所述代理服务集群对所述目标业务进行限流处理

[0010]根据本公开的另一方面,提供了一种流量控制装置,包括:统计模块,用于对客户端发送的业务请求进行统计,以获得目标业务的第一流量;发送模块,用于将所述第一流量发送给同一部署区域内的局部服务集群,以使所述局部服务集群对所述第一流量进行统计后获得所述目标业务的第二流量,所述第二流量被所述局部服务集群发送给全局服务集群,以使所述全局服务集群对所述第二流量进行统计后获得所述目标业务的全局流量;接收模块,用于接收所述局部服务集群发送的针对所述目标业务的限流策略,所述限流策略是所述局部服务集群在所述全局流量大于预设阈值时生成的;限流模块,用于基于所述限流策略对所述目标业务进行限流处理

[0011]根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上述任一方面的任一项所述的方法

[0012]根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据上述任一方面的任一项所述的方法

[0013]根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据上述任一方面的任一项所述的方法

[0014]根据本公开的技术方案,可以提高系统稳定性

[0015]应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特
征,也不用于限制本公开的范围

本公开的其它特征将通过以下的说明书而变得容易理解

附图说明
[0016]附图用于更好地理解本方案,不构成对本公开的限定

其中:
[0017]图1是根据本公开第一实施例的示意图;
[0018]图2是根据本公开第二实施例的示意图;
[0019]图3是根据本本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.
一种分布式系统,包括:代理服务集群,用于对客户端发送的业务请求进行统计,以获得目标业务的第一流量;以及,若存在针对所述目标业务的限流策略,基于所述限流策略对所述目标业务进行限流处理;局部服务集群,用于对同一部署区域内的代理服务集群发送的所述第一流量进行统计,以获得所述目标业务的第二流量;以及,若已生成所述限流策略,将所述限流策略发送给所述代理服务集群,其中,所述限流策略是在所述目标业务的全局流量大于预设阈值时生成的;全局服务集群,用于对所述局部服务集群发送的所述第二流量进行统计,以获得所述目标业务的所述全局流量,并将所述全局流量发送给所述局部服务集群
。2.
根据权利要求1所述的系统,其中,所述全局服务集群包括:目标全局服务实例,以及所述目标全局服务实例之外的其他全局服务实例,所述目标全局服务实例用于:对发送到自身实例上的所述第二流量进行统计,以获得所述目标业务的自身统计量;获取所述其他全局服务实例统计的所述目标业务的其他统计量;基于所述自身统计量和所述其他统计量,获取所述全局流量
。3.
根据权利要求2所述的系统,其中,所述目标全局服务实例进一步用于:对发送到自身实例上的所述第二流量进行统计,以获得所述目标业务的增量;从所述目标全局服务实例对应的目标队列中,获取所述目标业务的原始统计量,并基于所述增量和所述原始统计量,获取所述自身统计量;从所述其他全局服务实例对应的其他队列中,获取所述其他统计量;其中,所述其他队列与所述目标队列不同
。4.
根据权利要求1所述的系统,其中,所述代理服务集群进一步用于:响应于达到预设的统计周期,对所述统计周期内的所述业务请求进行统计,以获得所述第一流量,并将所述第一流量携带在第一上报请求中发送给所述局部服务集群;相应地,所述局部服务集群进一步用于:响应于接收到所述第一上报请求,且已生成所述限流策略,将所述限流策略携带在第一响应消息中发送给所述代理服务集群
。5.
根据权利要求1所述的系统,其中,所述局部服务集群进一步用于:响应于接收到所述第一上报请求,对所述统计周期内的所述第一流量进行统计,以获得所述第二流量,并将所述第二流量携带在第二上报请求中发送给所述全局服务集群;相应地,所述全局服务集群进一步用于:响应于接收到所述第二上报请求,将所述第二流量进行统计,以获得所述全局流量,并将所述全局流量携带在第二响应消息中发送给所述局部服务集群
。6.
一种流量控制方法,包括:接收同一部署区域内的代理服务集群发送的目标业务的第一流量,所述第一流量是所述代理服务集群对客户端发送的业务请求进行统计后获得的;对所述第一流量进行统计,以获得所述目标业务的第二流量,并将所述第二流量发送
给全局服务集群;接收所述全局服务集群发送的所述目标业务的全局流量,所述全局流量是所述全局服务集群对所述第二流量进行统计后获得的;若所述全局流量大于预设阈值,生成针对所述目标业务的限流策略;将所述限流策略发送给所述代理服务集群,以使所述代理服务集群基于所述限流策略对所述目标业务进行限流处理
。7.
根据权利要求6所述的方法,其中,所述接收同一部署区域内的代理服务集群发送的目标业务的第一流量,包括:接收所述代理服务集群在达到预设的统计周期后发送的第一上报请求,所述第一上报请求中携带所述第一流量,所述第一流量是所述代理服务集群对客户端发送的业务请求进行统计后获得的;相应地,所述将所述限流策略发送给所述代理服务集群,以使所述代理服务集群基于所述限流策略对所述目标业务进行限流处理,包括:响应于接收到所述第一上报请求,向所述代理服务集群发送第一响应消息,所述第一响应消息中携带所述限流策略
。8.
根据权利要求7所述的方法,其中,所述对所述第一流量进行统计,以获得所述目标业务的第二流量,并将所述第二流量发送给全局服务集群,包括:响应于接收到所述第一上报请求,对所述统计周期内的所述第一流量进行统计,以获得所述第二流量,并将所述第二流量携带在第二上报请求中发送给所述全局服务集群;相应地,所述接收所述全局服务集群发送的所述目标业务的全局流量,包括:接收所述全局服务集群发送的第二响应消息,所述第二响应消息中携带所述全局流量,所述第二响应消息是所述全局服务集群对所述第二上报请求中携带的第二流量进行统计获得所述全局流量后发送的
。9.
一种流量控制方法,包括:接收局部服务集群发送的目标业务的第二流量,所述第二流量是所述局部服务集群对第一流量进行统计后获得的,所述第一流量是代理服务集群对客户端发送的业务请求进行统计后获得的;对所述第二流量进行统计,以获得所述目标业务的全局流量;将所述全局流量发送给所述局部服务集群,以使所述局部服务集群在所述全局流量大于预设阈值时生成针对所述目标业务的限流策略,所述限流策略被所述局部服务集群发送给所述代理服务集群,以使所述代理服务集群对所述目标业务进行限流处理
。10.
根据权利要求9所述的方法,其中,所...

【专利技术属性】
技术研发人员:李磊
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1