微服务的流量处理方法、装置及电子设备制造方法及图纸

技术编号:37861481 阅读:26 留言:0更新日期:2023-06-15 20:51
本发明专利技术公开了一种微服务的流量处理方法、装置及电子设备。涉及云计算领域,该方法应用于流量处理模块,流量处理模块集成于微服务的微服务框架中,该方法包括:统计目标微服务完成处理的N个访问请求,得到第一访问请求集合;确定第一访问请求集合中每个第一访问请求对应的处理时间;从第一访问请求集合中筛选出M个访问请求,得到第二访问请求集合;基于每个第一访问请求的处理时间以及每个第二访问请求的处理时间,确定目标流量处理规则;基于目标流量处理规则处理待处理流量。本发明专利技术解决了现有技术中基于静态阈值确定微服务的流量处理方法,并基于该微服务的流量处理方法处理流量造成的处理准确性低的技术问题。量造成的处理准确性低的技术问题。量造成的处理准确性低的技术问题。

【技术实现步骤摘要】
微服务的流量处理方法、装置及电子设备


[0001]本专利技术涉及云计算领域,具体而言,涉及一种微服务的流量处理方法、装置及电子设备。

技术介绍

[0002]分布式场景下,微服务的数量成百上千,服务之间的调用更是错综复杂,如何对各个服务的流量进行调度和治理,如何对各服务的流量进行治理和调度,以达到如最佳的流量负载、高效网络、服务故障发现隔离转发等目标,是目前微服务盛行时代亟需解决的问题。
[0003]目前的流量处理方法基本都是采用配置下发的策略,即根据某个或者某几个参数静态阈值,判断拒绝访问请求还是接受访问请求,这种方式存在较大的不确定性。如同一个微服务部署在不同的服务器上,CPU的型号也可能有所不同,有些cpu可以处理50的并发请求,但是有些型号的CPU可能就无法承载50的并发请求,而且,即使是同一型号的cpu,运行在其上的微服务处理能力也会受到内存,磁盘,网络的影响。因此通过静态阈值的流量治理策略存在较大的缺陷,可能会出现停止为性能容量还存在空余的微服务转发请求,或是为性能容量不足的微服务持续转发请求的现象,进而导致流量处理的处理准确本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种微服务的流量处理方法,其特征在于,所述微服务的流量处理方法应用于流量处理模块,所述流量处理模块集成于微服务的微服务框架中,所述方法包括:统计目标微服务完成处理的N个访问请求,得到第一访问请求集合,其中,所述N个访问请求的结束处理时间晚于所述目标微服务处理的所有其他访问请求的处理时间,所述目标微服务为所述流量处理模块所对应的微服务,所述微服务用于处理流量,所述流量由至少一个访问请求组成,N为正整数;确定所述第一访问请求集合中每个第一访问请求对应的处理时间;从所述第一访问请求集合中筛选出M个访问请求,得到第二访问请求集合,其中,M为正整数,且M小于N,所述M个访问请求的结束处理时间晚于所述目标微服务处理的第一访问请求集合中的其他访问请求的处理时间;基于每个第一访问请求的处理时间以及每个第二访问请求的处理时间,确定目标流量处理规则,其中,所述第二访问请求为所述第二访问请求集合中的请求;基于所述目标流量处理规则处理待处理流量。2.根据权利要求1所述的方法,其特征在于,基于每个第一访问请求的处理时间以及每个第二访问请求的处理时间,确定目标流量处理规则,包括:基于每个第一访问请求的处理时间,确定目标正态分布图;基于所述目标正态分布图和所述每个第二访问请求的处理时间,确定所述目标流量处理规则。3.根据权利要求2所述的方法,其特征在于,基于所述目标正态分布图和所述每个第二访问请求的处理时间,确定所述目标流量处理规则,包括:基于所述每个第二访问请求的处理时间,确定所述每个第二访问请求的处理时间在所述目标正态分布图中的分布情况;基于所述分布情况,确定所述目标正态分布图中每个分布区间对应的第二访问请求的请求数量;基于所述每个分布区间对应的第二访问请求的请求数量,确定所述目标流量处理规则。4.根据权利要求1所述的方法,其特征在于,基于所述目标流量处理规则处理待处理流量,包括:获取目标管理模块发送的第一流量处理规则,其中,所述目标管理模块用于管理所述目标微服务;基于所述第一流量处理规则和所述目标流量处理规则处理所述待处理流量。5.根据权利要求1所述的方法,其特征在于,基于所述目标流量处理规则处理待处理流量,包括:确定目标部署包中是否配置有第二流量处理规则,其中,所述目标部署包为所述目标微服务运行时所需文件的集合;若所述...

【专利技术属性】
技术研发人员:吴冕冠周文泽吴逸章阳
申请(专利权)人:中国工商银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1