一种请求限速方法、装置、设备及介质制造方法及图纸

技术编号:37120416 阅读:18 留言:0更新日期:2023-04-01 05:15
本申请公开了一种请求限速方法、装置、设备及介质,应用于限速模块,涉及计算机技术领域,方法包括:获取目标客户端发送的目标请求,并判断等待队列是否为空;若为空则将目标请求发送至源站,以便源站基于目标请求返回请求响应,若不为空则判断目标请求是否为特定客户端发送的特定请求;若不为特定请求则返回等待页面至目标客户端,若为特定请求则将目标请求存放至等待队列,并在等待队列放行目标请求时,将目标请求发送至源站,以便源站基于目标请求返回请求响应。本申请在请求较多时,优先保障特定客户端发送的特定请求的正常响应,以保证使用所述特定客户端的用户的较好的用户体验。使用所述特定客户端的用户的较好的用户体验。使用所述特定客户端的用户的较好的用户体验。

【技术实现步骤摘要】
一种请求限速方法、装置、设备及介质


[0001]本专利技术涉及计算机
,特别涉及一种请求限速方法、装置、设备及介质。

技术介绍

[0002]当前,在达到系统QPS(Queries Per Second,每秒查询率)性能上线时,现有的限流方案会导致在突发大流量时,所有用户的请求都有可能会受到影响,并且会延长用户业务处理时间,导致所有用户都体验不佳。
[0003]综上所述,如何保障较好的用户体验时当前亟待保障的问题。

技术实现思路

[0004]有鉴于此,本专利技术的目的在于提供一种请求限速方法、装置、设备及介质,能够保障较好的用户体验。其具体方案如下:
[0005]第一方面,本申请公开了一种请求限速方法,应用于限速模块,包括:
[0006]获取目标客户端发送的目标请求,并判断等待队列是否为空;
[0007]若为空,则将所述目标请求发送至源站,以便所述源站基于所述目标请求返回请求响应,若不为空,则判断所述目标请求是否为特定客户端发送的特定请求;
[0008]若不为特定请求,则返回等待页面至所述目标客户端,若为特定请求,则将所述目标请求存放至所述等待队列,并在所述等待队列放行所述目标请求时,将所述目标请求发送至所述源站,以便所述源站基于所述目标请求返回请求响应。
[0009]可选的,所述将所述目标请求发送至源站,以便所述源站基于所述目标请求返回请求响应,包括:
[0010]从令牌桶中为所述目标请求分配新令牌,并将携带所述新令牌的所述目标请求发送至源站,以便所述源站基于所述目标请求返回携带所述新令牌的请求响应。
[0011]可选的,所述获取目标客户端发送的目标请求之前,还包括:
[0012]获取业务端下发的限速配置;所述限速配置包括令牌桶大小、等待队列大小和预设令牌添加速度;
[0013]基于所述限速配置设置所述令牌桶和所述等待队列,并根据所述预设令牌添加速度为所述令牌桶创建并添加令牌。
[0014]可选的,所述判断所述目标请求是否为特定客户端发送的特定请求,包括:
[0015]判断所述目标请求是否是已在线客户端发送的携带原令牌的请求,若是则所述目标请求为特定请求,若不是则所述目标请求不为特定请求。
[0016]可选的,所述判断所述目标请求是否为特定客户端发送的特定请求,包括:
[0017]判断所述目标请求是否是新上线客户端发送的未携带原令牌的请求,若是则所述目标请求为特定请求,若不是则所述目标请求不为特定请求。
[0018]可选的,所述从令牌桶中为所述目标请求分配新令牌,并将携带所述新令牌的所述目标请求发送至源站,以便所述源站基于所述目标请求返回携带所述新令牌的请求响
应,包括:
[0019]从令牌桶中为所述目标请求分配新令牌,并将携带所述新令牌的所述目标请求发送至源站,以便所述源站基于所述目标请求返回携带所述新令牌的请求响应;
[0020]将携带所述新令牌的所述请求响应共同发送至所述目标客户端,以便所述目标客户端将携带所述新令牌的新请求发送至所述限速模块。
[0021]可选的,所述将携带所述新令牌的所述请求响应共同发送至所述目标客户端,以便所述目标客户端将携带所述新令牌的新请求发送至所述限速模块,包括:
[0022]将所述新令牌存储至cookie中,并将携带所述cookie的所述请求响应发送至所述目标客户端,以便所述目标客户端将携带所述cookie的新请求发送至所述限速模块。
[0023]第二方面,本申请公开了一种请求限速装置,应用于限速模块,包括:
[0024]请求获取模块,用于获取目标客户端发送的目标请求;
[0025]第一判断模块,用于判断等待队列是否为空;
[0026]第一处理模块,用于若为空,则将所述目标请求发送至源站,以便所述源站基于所述目标请求返回请求响应,若不为空,则判断所述目标请求是否为特定客户端发送的特定请求;
[0027]第二处理模块,用于若不为特定请求,则返回等待页面至所述目标客户端,若为特定请求,则将所述目标请求存放至所述等待队列,并在所述等待队列放行所述目标请求时,将所述目标请求发送至所述源站,以便所述源站基于所述目标请求返回请求响应。
[0028]第三方面,本申请公开了一种电子设备,包括处理器和存储器;其中,所述处理器执行所述存储器中保存的计算机程序时实现前述公开的请求限速方法。
[0029]第四方面,本申请公开了一种计算机可读存储介质,用于存储计算机程序;其中,所述计算机程序被处理器执行时实现前述公开的请求限速方法。
[0030]可见,本申请获取目标客户端发送的目标请求,并判断等待队列是否为空;若为空,则将所述目标请求发送至源站,以便所述源站基于所述目标请求返回请求响应,若不为空,则判断所述目标请求是否为特定客户端发送的特定请求;若不为特定请求,则返回等待页面至所述目标客户端,若为特定请求,则将所述目标请求存放至所述等待队列,并在所述等待队列放行所述目标请求时,将所述目标请求发送至所述源站,以便所述源站基于所述目标请求返回请求响应。由此可见,本申请在请求较多时,优先保障特定客户端发送的特定请求的正常响应,以保证使用所述特定客户端的用户的较好的用户体验。
附图说明
[0031]为了更清楚地说明本专利技术实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
[0032]图1为本申请提供的一种请求限速方法流程图;
[0033]图2为本申请提供的一种具体的请求限速方法流程图;
[0034]图3为本申请提供的一种请求限速装置结构示意图;
[0035]图4为本申请提供的一种电子设备结构图。
具体实施方式
[0036]下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本专利技术一部分实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本专利技术保护的范围。
[0037]当前,在达到系统QPS性能上线时,现有的限流方案会导致在突发大流量时,所有用户的请求都有可能会受到影响,并且会延长用户业务处理时间,导致所有用户都体验不佳。
[0038]为了克服上述问题,本申请提供了一种请求限速方案,能够保障较好的用户体验。
[0039]参见图1所示,本申请实施例公开了一种请求限速方法,应用于限速模块,该方法包括:
[0040]步骤S11:获取目标客户端发送的目标请求,并判断等待队列是否为空。
[0041]本申请实施例中,判断等待队列是否为空,也就是判断请求传输及响应的压力是否较大,若压力较大,则会先将目标请求存放至等待队列,以本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种请求限速方法,其特征在于,应用于限速模块,包括:获取目标客户端发送的目标请求,并判断等待队列是否为空;若为空,则将所述目标请求发送至源站,以便所述源站基于所述目标请求返回请求响应,若不为空,则判断所述目标请求是否为特定客户端发送的特定请求;若不为特定请求,则返回等待页面至所述目标客户端,若为特定请求,则将所述目标请求存放至所述等待队列,并在所述等待队列放行所述目标请求时,将所述目标请求发送至所述源站,以便所述源站基于所述目标请求返回请求响应。2.根据权利要求1所述的请求限速方法,其特征在于,所述将所述目标请求发送至源站,以便所述源站基于所述目标请求返回请求响应,包括:从令牌桶中为所述目标请求分配新令牌,并将携带所述新令牌的所述目标请求发送至源站,以便所述源站基于所述目标请求返回携带所述新令牌的请求响应。3.根据权利要求2所述的请求限速方法,其特征在于,所述获取目标客户端发送的目标请求之前,还包括:获取业务端下发的限速配置;所述限速配置包括令牌桶大小、等待队列大小和预设令牌添加速度;基于所述限速配置设置所述令牌桶和所述等待队列,并根据所述预设令牌添加速度为所述令牌桶创建并添加令牌。4.根据权利要求2所述的请求限速方法,其特征在于,所述判断所述目标请求是否为特定客户端发送的特定请求,包括:判断所述目标请求是否是已在线客户端发送的携带原令牌的请求,若是则所述目标请求为特定请求,若不是则所述目标请求不为特定请求。5.根据权利要求2所述的请求限速方法,其特征在于,所述判断所述目标请求是否为特定客户端发送的特定请求,包括:判断所述目标请求是否是新上线客户端发送的未携带原令牌的请求,若是则所述目标请求为特定请求,若不是则所述目标请求不为特定请求。6.根据权利要求2至5任一项所述的请求限速方法,其特征在于,所述从令牌桶中为所述目标请求分...

【专利技术属性】
技术研发人员:曹文辉彭强兵
申请(专利权)人:杭州安恒信息技术股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1