请求处理方法、装置、服务器及存储介质制造方法及图纸

技术编号:26385555 阅读:28 留言:0更新日期:2020-11-19 23:54
本公开关于一种请求处理方法、装置、服务器及存储介质,属于计算机技术领域。该方法包括:响应于对服务器集群中的第二服务器的目标接口的调用请求,确定目标接口对应的调用请求数量参数,调用请求数量参数用于表示服务器集群中未处理完成的调用请求的数量;更新调用请求数量参数;控制第二服务器在调用请求数量参数大于或等于目标接口的目标阈值的条件下丢弃调用请求,再次更新调用请求数量参数。本公开以调用请求数量参数来表示服务器集群中未处理完成的调用请求的数量,在请求处理时间存在异常的延长时,仍能够正确触发限流,减少由于某个接口请求处理时间的异常延长对其他接口造成的影响,提高服务器集群的稳定性。

【技术实现步骤摘要】
请求处理方法、装置、服务器及存储介质
本公开涉及计算机
,尤其涉及一种请求处理方法、装置、服务器及存储介质。
技术介绍
当服务器接收到的请求的数量骤增,而服务器当前的资源不足以同时处理接收到的大量请求时,可以对请求的处理进行限制,也即限流,以避免服务器因大量请求的涌入而崩溃。随着分布式服务的发展,一项服务可以分布在服务器集群的多台服务器上运行,每台运行该项服务的服务器向外提供有至少一个接口,在分布式服务中,需要对任一项服务的任一接口进行限流。相关技术中,对于任一项服务的任一接口,可以根据该接口在服务器集群上的总QPS(Queries-per-second,每秒请求数),对该接口处理的请求数量进行限制。如果该接口每秒接收到的请求数不大于该接口的限流阈值,则服务器集群正常处理接收到的请求;如果该接口每秒接收到的请求数大于该接口的限流阈值,则服务器集群拒绝处理超出限流阈值的请求。上述过程中,如果某一接口的请求处理时间存在异常的延长,且该接口每秒接收到的请求数不大于该接口的限流阈值,服务器集群不会对该接口进行限流。但是,由于请求处理时间的延长,该接口会占用过多的请求处理资源,导致其他接口难以获取到空闲的请求处理资源进行请求的处理,出现处理异常的情况,进而导致服务器集群处理请求的稳定性较差。
技术实现思路
本公开实施例提供了一种请求处理方法、装置、服务器及存储介质,能够提高服务器集群的稳定性。本公开的技术方案如下:一方面,提供了一种请求处理方法,应用于服务器集群中的第一服务器,所述方法包括:响应于对服务器集群中的第二服务器的目标接口的调用请求,确定所述目标接口对应的调用请求数量参数,所述调用请求数量参数用于表示所述服务器集群中未处理完成的所述调用请求的数量;更新所述调用请求数量参数;控制所述第二服务器在所述调用请求数量参数大于或等于所述目标接口的目标阈值的条件下丢弃所述调用请求,再次更新所述调用请求数量参数,其中,所述目标阈值为所述服务器集群中能够处理的所述调用请求的最大数量。在一种可能的实现方式中,所述响应于对服务器集群中的第二服务器的目标接口的调用请求,确定所述目标接口对应的调用请求数量参数,包括:响应于对服务器集群中的第二服务器的目标接口的调用请求,获取所述调用请求的接收时间;根据所述接收时间,确定所述目标接口在所述接收时间关联的时间段内对应的调用请求数量参数。在另一种可能的实现方式中,所述根据所述接收时间,确定所述目标接口在所述接收时间关联的时间段内对应的调用请求数量参数,包括:确定所述接收时间所在的第一时间段;从所述目标接口对应的多个调用请求数量参数中,确定所述第一时间段对应的调用请求数量参数,所述多个调用请求数量参数分别用于记录不同时间段内未处理完成的调用请求数量。在另一种可能的实现方式中,所述根据所述接收时间,确定所述目标接口在所述接收时间关联的时间段内对应的调用请求数量参数,包括:确定所述接收时间所在的第一时间段;响应于所述接收时间与所述第一时间段的起始时间之间的时间差小于时间差阈值,从所述目标接口对应的多个调用请求数量参数中,确定所述第一时间段对应的调用请求数量参数和所述第二时间段对应的调用请求数量参数,所述多个调用请求数量参数分别用于记录不同时间段内未处理完成的调用请求数量,所述第二时间段为与所述第一时间段相邻的上一时间段;获取所述第一时间段对应的调用请求数量参数与所述第二时间段对应的调用请求数量参数的和值,作为所述目标接口在所述接收时间关联的时间段内对应的调用请求数量参数。在另一种可能的实现方式中,所述更新所述调用请求数量参数,包括:在所述调用请求数量参数的基础上,增加预设数值,所述预设数值用于表示发生变化的所述调用请求的数量;所述再次更新所述调用请求数量参数,包括:在所述调用请求数量参数的基础上,减少所述预设数值。在另一种可能的实现方式中,所述控制所述第二服务器在所述调用请求数量参数大于或等于所述目标接口的目标阈值的条件下丢弃所述调用请求,再次更新所述调用请求数量参数,包括:响应于所述调用请求数量参数大于或等于所述目标接口的目标阈值,向所述第二服务器发送丢弃指令,所述丢弃指令用于指示所述第二服务器丢弃所述调用请求;响应于所述第二服务器对所述调用请求的第一丢弃信息,再次更新所述调用请求参数,所述第一丢弃信息用于表示所述第二服务器已丢弃所述调用请求。在另一种可能的实现方式中,所述控制所述第二服务器在所述调用请求数量参数大于或等于所述目标接口的目标阈值的条件下丢弃所述调用请求,再次更新所述调用请求数量参数,包括:向所述第二服务器发送所述调用请求数量参数;响应于接收到所述第二服务器对所述调用请求的第二丢弃信息,再次更新所述调用请求参数,所述第二丢弃信息用于表示所述第二服务器确定所述调用请求数量参数大于或等于所述目标接口的目标阈值,已丢弃所述调用请求。一方面,提供了一种请求处理装置,应用于服务器集群中的第一服务器,所述装置包括:确定单元,被配置为执行响应于对服务器集群中的第二服务器的目标接口的调用请求,确定所述目标接口对应的调用请求数量参数,所述调用请求数量参数用于表示所述服务器集群中未处理完成的所述调用请求的数量;第一更新单元,被配置为执行更新所述调用请求数量参数;控制单元,被配置为执行控制所述第二服务器在所述调用请求数量参数大于或等于所述目标接口的目标阈值的条件下丢弃所述调用请求;第二更新单元,被配置为执行再次更新所述调用请求数量参数,其中,所述目标阈值为所述服务器集群中能够处理的所述调用请求的最大数量。在一种可能的实现方式中,所述确定单元,包括:获取子单元,被配置为执行响应于对服务器集群中的第二服务器的目标接口的调用请求,获取所述调用请求的接收时间;确定子单元,被配置为执行根据所述接收时间,确定所述目标接口在所述接收时间关联的时间段内对应的调用请求数量参数。在另一种可能的实现方式中,所述确定子单元,被配置为执行:确定所述接收时间所在的第一时间段;从所述目标接口对应的多个调用请求数量参数中,确定所述第一时间段对应的调用请求数量参数,所述多个调用请求数量参数分别用于记录不同时间段内未处理完成的调用请求数量。在另一种可能的实现方式中,所述确定子单元,被配置为执行:确定所述接收时间所在的第一时间段;响应于所述接收时间与所述第一时间段的起始时间之间的时间差小于时间差阈值,从所述目标接口对应的多个调用请求数量参数中,确定所述第一时间段对应的调用请求数量参数和所述第二时间段对应的调用请求数量参数,所述多个调用请求数量参数分别用于记录不同时间段内未处理完成的调用请求数量,所述第二时间段为与所述第一时间段相邻的上一时间段;获取所述第一时间段对应的调用请求数量参数与所述第二时间段对应的调用请求数量参数的本文档来自技高网...

【技术保护点】
1.一种请求处理方法,其特征在于,应用于服务器集群中的第一服务器,所述方法包括:/n响应于对服务器集群中的第二服务器的目标接口的调用请求,确定所述目标接口对应的调用请求数量参数,所述调用请求数量参数用于表示所述服务器集群中未处理完成的所述调用请求的数量;/n更新所述调用请求数量参数;/n控制所述第二服务器在所述调用请求数量参数大于或等于所述目标接口的目标阈值的条件下丢弃所述调用请求,再次更新所述调用请求数量参数,其中,所述目标阈值为所述服务器集群中能够处理的所述调用请求的最大数量。/n

【技术特征摘要】
1.一种请求处理方法,其特征在于,应用于服务器集群中的第一服务器,所述方法包括:
响应于对服务器集群中的第二服务器的目标接口的调用请求,确定所述目标接口对应的调用请求数量参数,所述调用请求数量参数用于表示所述服务器集群中未处理完成的所述调用请求的数量;
更新所述调用请求数量参数;
控制所述第二服务器在所述调用请求数量参数大于或等于所述目标接口的目标阈值的条件下丢弃所述调用请求,再次更新所述调用请求数量参数,其中,所述目标阈值为所述服务器集群中能够处理的所述调用请求的最大数量。


2.根据权利要求1所述的请求处理方法,其特征在于,所述响应于对服务器集群中的第二服务器的目标接口的调用请求,确定所述目标接口对应的调用请求数量参数,包括:
响应于对服务器集群中的第二服务器的目标接口的调用请求,获取所述调用请求的接收时间;
根据所述接收时间,确定所述目标接口在所述接收时间关联的时间段内对应的调用请求数量参数。


3.根据权利要求2所述的请求处理方法,其特征在于,所述根据所述接收时间,确定所述目标接口在所述接收时间关联的时间段内对应的调用请求数量参数,包括:
确定所述接收时间所在的第一时间段;
从所述目标接口对应的多个调用请求数量参数中,确定所述第一时间段对应的调用请求数量参数,所述多个调用请求数量参数分别用于记录不同时间段内未处理完成的调用请求数量。


4.根据权利要求2所述的请求处理方法,其特征在于,所述根据所述接收时间,确定所述目标接口在所述接收时间关联的时间段内对应的调用请求数量参数,包括:
确定所述接收时间所在的第一时间段;
响应于所述接收时间与所述第一时间段的起始时间之间的时间差小于时间差阈值,从所述目标接口对应的多个调用请求数量参数中,确定所述第一时间段对应的调用请求数量参数和所述第二时间段对应的调用请求数量参数,所述多个调用请求数量参数分别用于记录不同时间段内未处理完成的调用请求数量,所述第二时间段为与所述第一时间段相邻的上一时间段;
获取所述第一时间段对应的调用请求数量参数与所述第二时间段对应的调用请求数量参数的和值,作为所述目标接口在所述接收时间关联的时间段内对应的调用请求数量参数。


5.根据权利要求1所述的请求处理方法,其特征在于,所述更新所述调用请求数量参数,包括:
在所述调用请求数量参数的基础上,增加预设数值,所述预设数值用于表示发生...

【专利技术属性】
技术研发人员:舒懿杰
申请(专利权)人:北京达佳互联信息技术有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1