System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 全局流量控制方法、装置、电子设备及存储介质制造方法及图纸_技高网

全局流量控制方法、装置、电子设备及存储介质制造方法及图纸

技术编号:40279469 阅读:19 留言:0更新日期:2024-02-02 23:07
本申请提供一种全局流量控制方法、装置、电子设备及存储介质,涉及计算机技术领域。该方法包括:接收业务流程中各服务发送的当前负载值;基于当前负载值,若存在满足限速条件的目标服务,则根据目标服务对应的当前负载值确定目标服务的限速策略;其中,目标服务为业务流程中的任一服务;基于限速策略对目标服务进行流量限速。装置用于执行上述方法。本申请实施例根据业务流程中各服务的负载值判断是否需要对该服务执行限速策略,通过限速策略实现对集群中的多个服务进行统一限速,提高了集群资源利用率。

【技术实现步骤摘要】

本申请涉及计算机,具体而言,涉及一种全局流量控制方法、装置、电子设备及存储介质


技术介绍

1、微服务是soa架构下的一种变体,提倡将单一应用程序划分成一组小的服务,服务之间相互协调配合,对用户提供服务。通常将微服务以集群形式进行架构。但集群资源有限,当流量高峰期和平均流量差距较大时,现有技术通常是对集群入口或者集群中某个服务进行限速。在限速之后,就像一个木桶一样,整个集群的能力将由处理请求最慢的服务所决定。虽然这个服务承担的流量达到极限,无法再处理请求,但此时集群的整体资源占用情况可能还没到达极限,因此,使得集群的资源利用率较低。


技术实现思路

1、本申请实施例的目的在于提供一种全局流量控制方法、装置、电子设备及存储介质,用以对集群中的多个服务进行统一限速,避免大量的流量集中在某一个服务中,提高集群资源利用率。

2、第一方面,本申请实施例提供一种全局流量控制方法,该方法包括:接收业务流程中各服务发送的当前负载值;基于当前负载值,若存在满足限速条件的目标服务,则根据目标服务对应的当前负载值确定目标服务的限速策略;其中,目标服务为业务流程中的任一服务;基于限速策略对目标服务进行流量限速。

3、本申请实施例中,由于各服务的当前负载值体现了服务所在集群的资源情况,因此,根据各服务的当前负载值确定对业务流程中的哪些服务执行限速策略,使得能够通过限速策略实现放慢流量在业务流程中部分服务的流速,避免出现大量的流量集中在某一个服务中而降低集群能力的现象,从而提高了集群资源利用率。

4、在一些实施例中,根据目标服务对应的当前负载值确定目标服务的限速策略,包括:根据目标服务对应的当前负载值确定待限速服务的个数;其中,待限速服务为目标服务的上游服务;基于待限速服务的个数确定限速流量;根据待限速服务的个数和限速流量确定目标服务的限速策略。

5、本申请实施例通过目标服务的当前负载值确定待限速服务的个数以及根据待限速服务的个数确定限速流量,从而确定目标服务的限速策略。使得针对不同当前负载值的目标服务来说,其限速策略是不相同的,因此能根据不同服务的不同情况做出不同的决策。由于能根据目标服务的具体情况进行个性化处理,进一步提高了集群资源利用率。

6、在一些实施例中,基于待限速服务的个数确定限速流量,包括:基于业务流程的执行顺序和待限速服务的个数确定待限速服务中的第一个待限速服务;获取第一个待限速服务的流量;根据第一个待限速服务的流量和待限速服务的个数确定限速流量。

7、本申请实施例通过基于第一个待限速服务的流量以及待限速服务的个数确定限速流量。在这个过程中,由于不同的目标服务对应的待限速服务中的第一个待限速服务可能是不相同的,使得针对不同的目标服务来说,其限速流量也是不相同的。因此,针对不同的目标服务来说,能根据目标服务的具体情况进行个性化处理,进一步提高了集群资源利用率。

8、在一些实施例中,基于限速策略对目标服务进行流量限速,包括:基于业务流程的执行顺序确定每个待限速服务的限速顺序;根据限速顺序和限速流量依次对每个待限速服务进行流量限速;将经限速后的流量放行给目标服务。

9、本申请实施例通过业务流程的执行顺序对待限速服务进行依次限速,在这个过程中,先对第一个待限速服务进行限速,将限速后的流量放行给下一个待限速服务,对下一个待限速服务进行限速,然后再将限速后的流量放行给再下一个待限速服务,直至达到目标服务,使得流量能平缓的流过每一个待限速服务,而到达目标服务的流量是经过多次限速后的流量,不至于造成目标服务的堵塞,以实现对目标服务限速的目的,提高了集群资源利用率。

10、在一些实施例中,在基于限速策略对目标服务进行流量限速之后,该方法还包括:获取每个待限速服务的负载值;若存在待限速服务的负载值小于第一预设负载阈值,则基于限速流量和待限速服务的个数确定放行流量;基于放行流量对每个待限速服务进行流量恢复。

11、本申请实施例在根据限速策略对目标服务的流量进行限速后,检测到任一待限速服务的负载值小于第一预设负载阈值时,对每一个待限速服务的限速流量进行放行,从而恢复每一个待限速服务的流量。使得集群资源不会出现空闲的状态,提高了集群资源利用率。

12、在一些实施例中,在根据目标服务对应的当前负载值确定待限速服务的个数之后,该方法还包括:若待限速服务的个数为目标服务的全部上游服务,则增加目标服务的服务子节点数。

13、本申请实施例中,若目标服务的限速策略中的待限速服务的个数是目标服务的全部上游服务,表明目标服务为业务流程中较重要的服务,所要承担的业务压力较大,因此增加目标服务的服务子节点数,以降低目标服务的压力,提高集群资源利用率。

14、在一些实施例中,接收业务流程中各服务发送的当前负载值,包括:接收每个服务的服务子节点的当前负载值;基于每个服务的服务子节点的当前负载值计算每个服务的负载平均值,将负载平均值作为每个服务的当前负载值。

15、本申请实施例中,业务流程中的服务通常是多节点部署,因此为了得到服务更准确、全面和客观的当前负载值,根据每个服务的服务子节点的当前负载值计算每个服务的负载平均值作为每个服务的当前负载值。根据平均负载来决定如何分配资源或调整业务流程,以确保整个系统的稳定性和效率,从而进一步提高集群资源利用率。

16、第二方面,本申请实施例提供一种全局流量控制装置,该装置包括:接收模块,用于接收业务流程中各服务发送的当前负载值;确定模块,用于基于当前负载值,若存在满足限速条件的目标服务,则根据目标服务对应的当前负载值确定目标服务的限速策略;其中,目标服务为业务流程中的任一服务;限速模块,用于基于限速策略对目标服务进行流量限速。

17、第三方面,本申请实施例提供一种电子设备,包括:处理器、存储器、存储介质和总线,其中,所述处理器和所述存储器通过所述总线完成相互间的通信;所述存储器存储有可被所述处理器执行的程序指令,所述处理器调用所述程序指令能够执行第一方面的方法步骤。

18、第四方面,本申请实施例提供一种非暂态计算机可读存储介质,包括:所述计算机可读存储介质存储计算机指令,所述计算机指令使所述计算机执行第一方面的方法步骤。

19、本申请的有益效果有:

20、本申请实施例通过判断业务流程中各服务的当前负载值是否满足限速条件,对满足限速条件的目标服务进行流量限速。在这个过程中,由于各服务的当前负载值体现了服务所在集群的资源情况,因此,根据各服务的当前负载值确定对业务流程中的哪些服务执行限速策略,使得能够通过限速策略实现放慢流量在业务流程中部分服务的流速,避免出现大量的流量集中在某一个服务中而降低集群能力的现象,从而提高了集群资源利用率。并且,在对目标服务进行流量限速时,是根据不同服务的不同情况做出不同的决策,个性化处理的方式进一步提高了集群资源利用率。

21、本申请的其他特征和优点将在随后的说明书阐述,并本文档来自技高网...

【技术保护点】

1.一种全局流量控制方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述目标服务对应的当前负载值确定所述目标服务的限速策略,包括:

3.根据权利要求2所述的方法,其特征在于,所述基于所述待限速服务的个数确定限速流量,包括:

4.根据权利要求2所述的方法,其特征在于,所述基于所述限速策略对所述目标服务进行流量限速,包括:

5.根据权利要求2所述的方法,其特征在于,在基于所述限速策略对所述目标服务进行流量限速之后,所述方法还包括:

6.根据权利要求2所述的方法,其特征在于,在根据所述目标服务对应的当前负载值确定待限速服务的个数之后,所述方法还包括:

7.根据权利要求1-6任一所述的方法,其特征在于,所述接收业务流程中各服务发送的当前负载值,包括:

8.一种全局流量控制装置,其特征在于,所述装置包括:

9.一种电子设备,其特征在于,包括:处理器和存储器,所述存储器存储有所述处理器可执行的机器可读指令,所述机器可读指令被所述处理器执行时执行如权利要求1至7任一所述的方法。

10.一种计算机可读存储介质,其特征在于,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如权利要求1至7任一所述的方法。

...

【技术特征摘要】

1.一种全局流量控制方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述目标服务对应的当前负载值确定所述目标服务的限速策略,包括:

3.根据权利要求2所述的方法,其特征在于,所述基于所述待限速服务的个数确定限速流量,包括:

4.根据权利要求2所述的方法,其特征在于,所述基于所述限速策略对所述目标服务进行流量限速,包括:

5.根据权利要求2所述的方法,其特征在于,在基于所述限速策略对所述目标服务进行流量限速之后,所述方法还包括:

6.根据权利要求2所述的方法,其特征在于,在根据所述目标...

【专利技术属性】
技术研发人员:文严李雪梅徐志华王发修高斌何林
申请(专利权)人:成都新希望金融信息有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1