System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请属于信息技术,具体涉及一种访问请求处理方法、装置及系统。
技术介绍
1、api(application programming interface,应用程序编程接口)网关集群是若干api网关服务器组成的多机集群环境,是将外部网络访问请求转发到系统提供的api接口服务上。在转发过程中,api网关对访问请求进行控制。由于api网关业务复杂度较低并且为了保证网络请求流量在api网关环节不受到损失,因此api网关的性能通常是远高于后台服务系统(以下简称为后台系统),为了保护api网关转发的后台系统不会受到大流量冲击,对接入api网关的访问请求进行限流是很重要的。
2、目前,api网关限流方式一般分为两种:
3、一、速率限流,即,控制某段时间内的访问请求次数,例如,100次每秒,200次每20秒。然而,该方式采用时间为控制维度,无法及时感知后台系统的运行状况;并且,对于api耗时不定的场景,该方式无法精确评估api网关的速率限流配置。
4、二、并发限流,即,限制后台系统同一时间的访问请求数量,例如,访问请求数量限制为10次,表示同时访问后台系统的请求数量为10。然而,该方式仅是对后台系统进行整体控制,而无法精确控制单个api网关的限流。
5、同时,对于被上述两种方式限流的访问请求,通常的做法是等待预定时间后将访问请求直接转发到后台系统或者阻塞轮询限流的api网关,这些方式均未考虑后台系统的性能,容易导致后台系统的宕机。
6、也就是说,相关技术中的api网关限流方式并未兼顾网
技术实现思路
1、本申请实施例的目的是提供一种访问请求处理方法、装置及系统,能够解决相关技术中的api网关限流方式并未兼顾网关和后台系统的性能、容易导致后台系统宕机的问题。
2、第一方面,本申请实施例提供了一种访问请求处理方法,所述方法包括:根据接收到的访问请求申请转发令牌;响应于令牌池中的转发令牌数量非零,将携带有转发令牌信息的访问请求转发至后台系统,其中,所述令牌池具有预设数量的转发令牌,所述预设数量基于后台系统性能和当前网关性能确定;根据所述携带有转发令牌信息的访问请求和接收到的携带有所述转发令牌信息的响应信息,更新所述令牌池的转发令牌数量。
3、第二方面,本申请实施例提供了一种访问请求处理装置,所述装置包括:令牌申请单元,用于根据接收到的访问请求申请转发令牌;转发单元,用于响应于令牌池中的转发令牌数量非零,将携带有转发令牌信息的访问请求转发至后台系统,其中,所述令牌池具有预设数量的转发令牌,所述预设数量基于后台系统性能和当前网关性能确定;令牌更新单元,用于根据所述携带有转发令牌信息的访问请求和接收到的携带有所述转发令牌信息的响应信息,更新所述令牌池的转发令牌数量。
4、第三方面,本申请实施例提供了一种访问请求处理系统,所述系统包括:上述的访问请求处理装置、后台系统和包括至少一个网关的网关集群,其中,所述访问请求处理装置位于所述网关集群端。
5、第四方面,本申请实施例提供了一种电子设备,该电子设备包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如第一方面所述的方法的步骤。
6、第五方面,本申请实施例提供了一种可读存储介质,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如第一方面所述的方法的步骤。
7、在本申请实施例中,通过根据后台系统性能和当前网关性能设置具有预设数量的转发令牌,可以根据转发令牌的数量确定是否转发访问请求,由于转发令牌数量是基于后台系统性能和当前网关性能设置,因而可以保护后台系统不会受到大流量冲击,避免了后台系统的宕机。
本文档来自技高网...【技术保护点】
1.一种访问请求处理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求2所述的方法,其特征在于,响应于所述令牌池中的转发令牌数量为零,所述方法还包括:
4.根据权利要求1所述的方法,其特征在于,在根据接收到的访问请求申请转发令牌之前,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,根据所述携带有转发令牌信息的访问请求和接收到的携带有所述转发令牌信息的响应信息,更新所述令牌池的转发令牌数量包括:
6.一种访问请求处理装置,其特征在于,所述装置包括:
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:
9.根据权利要求6所述的装置,其特征在于,所述装置还包括:
10.根据权利要求6所述的装置,其特征在于,所述令牌更新单元具体用于:
11.一种访问请求处理系统,其特征在于,所述系统包括:如权利要求6至10中任一项所述的访问请求处理
12.一种电子设备,其特征在于,包括处理器和存储器,所述存储器存储可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如权利要求1-5任一项所述的访问请求处理方法的步骤。
13.一种可读存储介质,其特征在于,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如权利要求1-5任一项所述的访问请求处理方法的步骤。
...【技术特征摘要】
1.一种访问请求处理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求2所述的方法,其特征在于,响应于所述令牌池中的转发令牌数量为零,所述方法还包括:
4.根据权利要求1所述的方法,其特征在于,在根据接收到的访问请求申请转发令牌之前,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,根据所述携带有转发令牌信息的访问请求和接收到的携带有所述转发令牌信息的响应信息,更新所述令牌池的转发令牌数量包括:
6.一种访问请求处理装置,其特征在于,所述装置包括:
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:<...
【专利技术属性】
技术研发人员:陈永谦,龙卉,龚辉,张强,
申请(专利权)人:中兴通讯股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。