服务请求的处理方法和装置制造方法及图纸

技术编号:28878182 阅读:24 留言:0更新日期:2021-06-15 23:14
本发明专利技术公开了一种服务请求的处理方法和装置,涉及大数据技术领域。该方法的一具体实施方式包括:接收服务请求,服务请求中包含请求参数;基于请求参数和预设的路由策略,确定服务集群中与服务请求对应的目标服务分组;将服务请求转发至目标服务分组,以由目标服务分组中的服务器对余数对应的服务请求进行响应处理。该实施方式根据服务请求的处理方法根据服务请求的请求参数和预设的路由策略,将服务请求分发到固定的服务分组上,当服务分组不可用时,进行分组级别的熔断;当接收到Killer‑Request时,可以将其分配至指定的服务分组中,若Killer‑Request导致服务不可用时可以隔离故障的服务器,并将所有Killer‑Request引流到熔断节点,从而保证服务的整体服务可用性。

【技术实现步骤摘要】
服务请求的处理方法和装置
本专利技术涉及大数据
,尤其涉及一种服务请求的处理方法和装置。
技术介绍
随着互联网微服务发展,主流的业务服务搭建模式均构建为无状态服务集群模式以便于实现系统的高可用和可动态扩容。现有的服务请求处理方案主要为:在服务端统一实现无状态服务集群,客户端发起请求经过统一的服务路由分发至集群中的固定服务(服务策略可自行定义如随机路由,来源服务等),任一服务端接收到请求后,执行服务进行响应,路由服务组件根据后台的服务器健康情况决定整体路由策略,当出现杀手级别请求(Killer-Request,指某种能够引起系统崩溃的请求)导致服务崩溃时,需要后台监控系统监控并拉起服务。在实现本专利技术过程中,专利技术人发现现有技术中至少存在如下问题:由于路由策略关系,路由分发逻辑存在分发缺陷,无法针对请求做到分组分发;后端服务由于完全的无状态,故天然没有分组服务概念。基于上述原因,如果前端不断发送Killer-Request,会逐步导致所有可用的后端服务最终全部崩溃,最终导致系统整体不可用。例如,对于金融行业来说,系统整体的不可用会造成极大的金融风险。
技术实现思路
有鉴于此,本专利技术实施例提供一种服务请求的处理方法和装置,该方法通过服务请求的处理方法根据服务请求的请求参数和预设的路由策略,将服务请求分发到固定的服务分组上,当服务分组不可用时,进行分组级别的熔断;当接收到Killer-Request时,可以将其分配至指定的服务分组中,若Killer-Request导致服务不可用时可以隔离故障的服务器,并将所有Killer-Request引流到熔断节点(即指定服务分组),从而保证服务的整体服务可用性;通过哈希处理的方式将服务请求分配到已经分组的服务端中,进而可以更精准高效的将服务请求分配至指定的服务分组中,即可实现由固定的分组处理Killer-Request而不影响其他服务分组的正常工作。为实现上述目的,根据本专利技术实施例的一个方面,提供了一种服务请求的处理方法,包括:接收服务请求,所述服务请求中包含请求参数;基于所述请求参数和预设的路由策略,确定服务集群中与所述服务请求对应的目标服务分组;将所述服务请求转发至所述目标服务分组,以由所述目标服务分组中的服务器对所述余数对应的服务请求进行响应处理。可选地,基于所述请求参数和预设的路由策略,确定服务集群中与所述服务请求对应的目标服务分组包括:将所述请求参数进行哈希处理,得到所述服务请求的哈希参数;基于所述哈希参数和所述服务集群中服务器的数量,确定服务集群中与所述服务请求对应的目标服务分组。可选地,基于所述哈希参数和所述服务集群中服务器的数量,确定服务集群中与所述服务请求对应的目标服务分组包括:确定所述哈希参数与所述服务集群中服务器的数量的余数;根据所述余数,确定服务集群中与所述服务请求对应的目标服务分组。可选地,所述请求参数包括以下一种或多种:请求类型、请求来源和请求参数的参数模式。可选地,在接收服务请求之前,所述方法还包括:对所述服务集群中的服务器进行分类,得到多个服务分组。可选地,对所述服务集群中的服务器进行分类,得到多个服务分组包括:根据所述服务器集群中的服务器的标识,对所述服务集群中的服务器进行分类,得到多个服务分组。可选地,所述服务器的标识包括以下一种或多种:所述服务器的IP地址、所述服务器的媒体存取控制位址和所述服务器的注册标识。为实现上述目的,根据本专利技术实施例的另一个方面,提供了一种服务请求的处理装置,包括:请求接收模块,用于接收服务请求,所述服务请求中包含请求参数;服务确定模块,用于基于所述请求参数和预设的路由策略,确定服务集群中与所述服务请求对应的目标服务分组;请求转发模块,用于将所述服务请求转发至所述目标服务分组,以由所述目标服务分组中的服务器对所述余数对应的服务请求进行响应处理。可选地,所述服务确定模块还用于:将所述请求参数进行哈希处理,得到所述服务请求的哈希参数;基于所述哈希参数和所述服务集群中服务器的数量,确定服务集群中与所述服务请求对应的目标服务分组。可选地,所述服务确定模块还用于:确定所述哈希参数与所述服务集群中服务器的数量的余数;根据所述余数,确定服务集群中与所述服务请求对应的目标服务分组。可选地,所述请求参数包括以下一种或多种:请求类型、请求来源和请求参数的参数模式。可选地,所述装置还包括注册分组模块,用于对所述服务集群中的服务器进行分类,得到多个服务分组。可选地,所述注册分组模块还用于根据所述服务器集群中的服务器的标识,对所述服务集群中的服务器进行分类,得到多个服务分组。可选地,所述服务器的标识包括以下一种或多种:所述服务器的IP地址、所述服务器的媒体存取控制位址和所述服务器的注册标识。为实现上述目的,根据本专利技术实施例的再一个方面,提供了一种电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本专利技术实施例提供的服务请求的处理的方法。为实现上述目的,根据本专利技术实施例的再一个方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如本专利技术实施例提供的服务请求的处理的方法。上述专利技术中的一个实施例具有如下优点或有益效果:通过服务请求的处理方法根据服务请求的请求参数和预设的路由策略,将服务请求分发到固定的服务分组上,当服务分组不可用时,进行分组级别的熔断;当接收到Killer-Request时,可以将其分配至指定的服务分组中,若Killer-Request导致服务不可用时可以隔离故障的服务器,并将所有Killer-Request引流到熔断节点(即指定服务分组),从而保证服务的整体服务可用性;通过哈希处理的方式将服务请求分配到已经分组的服务端中,进而可以更精准高效的将服务请求分配至指定的服务分组中,即可实现由固定的分组处理Killer-Request而不影响其他服务分组的正常工作。上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。附图说明附图用于更好地理解本专利技术,不构成对本专利技术的不当限定。其中:图1是现有技术的服务请求处理方法在遇到Killer-Request的流程示意图;图2是本专利技术实施例的服务请求的处理方法的基本流程的示意图;图3是本专利技术实施例的服务请求的处理方法的主要流程的示意图;图4是本专利技术实施例的服务请求的处理装置的基本模块的示意图;图5是本专利技术另一实施例的服务请求的处理装置的基本模块的示意图;图6是本专利技术实施例可以应用于其中的示例性系统架构图;图7是适于用来实现本专利技术实施例的终端设备或服务器的计算机系统的结构示意图。具体实施方式以下结合附图对本专利技术的示范性实施例做出说明,其中包括本专利技术实施例本文档来自技高网...

【技术保护点】
1.一种服务请求的处理方法,其特征在于,包括:/n接收服务请求,所述服务请求中包含请求参数;/n基于所述请求参数和预设的路由策略,确定服务集群中与所述服务请求对应的目标服务分组;/n将所述服务请求转发至所述目标服务分组,以由所述目标服务分组中的服务器对所述余数对应的服务请求进行响应处理。/n

【技术特征摘要】
1.一种服务请求的处理方法,其特征在于,包括:
接收服务请求,所述服务请求中包含请求参数;
基于所述请求参数和预设的路由策略,确定服务集群中与所述服务请求对应的目标服务分组;
将所述服务请求转发至所述目标服务分组,以由所述目标服务分组中的服务器对所述余数对应的服务请求进行响应处理。


2.根据权利要求1所述的方法,其特征在于,基于所述请求参数和预设的路由策略,确定服务集群中与所述服务请求对应的目标服务分组包括:
将所述请求参数进行哈希处理,得到所述服务请求的哈希参数;
基于所述哈希参数和所述服务集群中服务器的数量,确定服务集群中与所述服务请求对应的目标服务分组。


3.根据权利要求2所述的方法,其特征在于,基于所述哈希参数和所述服务集群中服务器的数量,确定服务集群中与所述服务请求对应的目标服务分组包括:
确定所述哈希参数与所述服务集群中服务器的数量的余数;根据所述余数,确定服务集群中与所述服务请求对应的目标服务分组。


4.根据权利要求1所述的方法,其特征在于,所述请求参数包括以下一种或多种:请求类型、请求来源和请求参数的参数模式。


5.根据权利要求1所述的方法,其特征在于,在接收服务请求之前,所述方法还包括:
对所述服务集群中的服务器进行分类,得到多个服务分组。


6.根据权利要求5所述的方法,其特征在于,对所述服务集群中的服务器进行分类,得到多个服务分组包括:
根据所述服务器集群中的服务器的标识,对所述服务集群中的服务器进行分类,得到多个服务分组。


7.根据权利要求6所述的方法,其特征在于,所述服务器的标识包括以下一种或多种:所述服务器的IP地址、所述服务器的媒体存取控制位址和所述服务器的注册标识。


8.一种服务请求的处理装置,其特征在于,包括:
请求接收模块,用于接收服务请求,所述服务请求中包含请求参数;

【专利技术属性】
技术研发人员:徐志轩朱可张元陈治宇何城方赤尹传威吴宇光张荣宸吴思李洋莹秦雯婧
申请(专利权)人:中国建设银行股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1