业务请求的处理方法、装置制造方法及图纸

技术编号:34134619 阅读:51 留言:0更新日期:2022-07-14 16:18
本发明专利技术实施例公开了一种业务请求的处理方法、装置、电子设备和计算机可读存储介质。该方法包括:分别计算出每个业务请求所对应的每秒查询率QPS;根据该每个业务请求所对应的QPS,使用令牌桶算法对该每个业务请求分别设置令牌桶的数量,其中,该令牌桶用于对该业务请求进行控制;在接收到业务请求后,设置该业务请求从该令牌桶中获取令牌;在该业务请求获取到该令牌的情况下,对该业务请求进行处理。通过本发明专利技术,解决了相关技术中直播事故预防及处理方式比较粗略的问题,达到了有效保护直播系统下层服务以及公共资源进而避免发生雪崩效应而影响整个系统功能的技术效果。效应而影响整个系统功能的技术效果。效应而影响整个系统功能的技术效果。

【技术实现步骤摘要】
业务请求的处理方法、装置


[0001]本专利技术涉及直播事故处理领域,尤其涉及一种业务请求的处理方法、装置、电子设备和计算机可读存储介质。

技术介绍

[0002]在直播晚高峰的时候,系统经常会因为压力过于集中,并发过大,而底层的系统或部分旁路依赖系统无法承受产生雪崩效应,因此在系统的入口网关处利用redis增加并发统计,每接收一个请求并发数就累积+1,当请求处理完之后就在后置中间件将并发数

1,如果有请求超5S没处理完毕默认失效防止请求卡死现象,然后再给请求路由设置熔断规则,每个路由可承受的并发是多少,当统计的并发数达到改请求设置的阈值时,就不再接收转发改请求,直接在入口网关进行拦截返回,减少系统的并发压力,保障核心功能的处理。
[0003]由此可见,相关技术中存在以下不足:1:统计的并发是全局的,会熔断某些原本性能比较高的业务功能;2:redis单机统计压力过大。
[0004]针对相关技术中,直播事故预防及处理方式比较粗略的问题,尚未提出有效地解决方案。

技术实现思路

[0005]本专利技术实施例提供了一种业务请求的处理方法、装置、电子设备和计算机可读存储介质,以至少解决相关技术中直播事故预防及处理方式比较粗略的技术问题。
[0006]根据本专利技术实施例的一个方面,提供了一种业务请求的处理方法,包括:分别计算出每个业务请求所对应的每秒查询率QPS;根据所述每个业务请求所对应的QPS,使用令牌桶算法对所述每个业务请求分别设置令牌桶的数量,其中,所述令牌桶用于对所述业务请求进行控制;在接收到业务请求后,设置所述业务请求从所述令牌桶中获取令牌;在所述业务请求获取到所述令牌的情况下,对所述业务请求进行处理。
[0007]可选地,所述方法还包括:在对所述业务请求进行处理之后,实时获取所述令牌桶的业务请求处理能力,其中,所述业务请求处理能力包括所述令牌桶每秒处理的业务请求数大于第一预设阈值;根据所述令牌桶的业务请求处理能力,使用预设规则补充所述令牌桶的数量,其中,所述预设规则包括毫秒级别的补充规则。
[0008]可选地,获取所述每个业务请求的请求阈值;在所述业务请求的请求数大于所述请求阈值时,在控制面板上单独对所述业务请求进行控制。
[0009]可选地,所述方法还包括:在系统的入口网关处,使用redis集群对所述业务请求进行统计。
[0010]可选地,所述方法还包括:判断所述令牌桶中剩余令牌的数量是否低于第二预设阈值;在判断结果为是的情况下,获取所述业务请求的优先级;根据所述业务请求的优先级,对所述业务请求进行处理。
[0011]根据本专利技术实施例的另一个方面,还提供了一种业务请求的处理装置,包括:计算
模块,用于分别计算出每个业务请求所对应的每秒查询率QPS;第一设置模块,用于根据所述每个业务请求所对应的QPS,使用令牌桶算法对所述每个业务请求分别设置令牌桶的数量,其中,所述令牌桶用于对所述业务请求进行控制;第二设置模块,用于在接收到业务请求后,设置所述业务请求从所述令牌桶中获取令牌;处理模块,用于在所述业务请求获取到所述令牌的情况下,对所述业务请求进行处理。
[0012]可选地,所述装置还包括:获取模块,用于在对所述业务请求进行处理之后,实时获取所述令牌桶的业务请求处理能力,其中,所述业务请求处理能力包括所述令牌桶每秒处理的业务请求数大于第一预设阈值;补充模块,用于根据所述令牌桶的业务请求处理能力,使用预设规则补充所述令牌桶的数量,其中,所述预设规则包括毫秒级别的补充规则。
[0013]可选地,所述装置还包括:所述装置还包括:统计模块,用于在系统的入口网关处,使用redis集群对所述业务请求进行统计。
[0014]可选地,所述装置还用于获取所述每个业务请求的请求阈值;在所述业务请求的请求数大于所述请求阈值时,在控制面板上对所述请求阈值进行调整。
[0015]所述装置还用于判断所述令牌桶中剩余令牌的数量是否低于第二预设阈值;在判断结果为是的情况下,获取所述业务请求的优先级;根据所述业务请求的优先级,对所述业务请求进行处理。
[0016]本专利技术实施例提供一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,处理器被配置为执行上述任一项方法的步骤。
[0017]本专利技术实施例提供一种计算机可读存储介质,计算机可读存储介质上存储有指令,指令被处理器执行时实现上述任一项方法的步骤。
[0018]本专利技术实施例中,分别计算出每个业务请求所对应的每秒查询率QPS;根据该每个业务请求所对应的QPS,使用令牌桶算法对该每个业务请求分别设置令牌桶的数量,其中,该令牌桶用于对该业务请求进行控制;在接收到业务请求后,设置该业务请求从该令牌桶中获取令牌;在该业务请求获取到该令牌的情况下,对该业务请求进行处理。也就是说,本专利技术实施例弃用了原来的计数方式改用令牌桶实现,精细化控制每个业务请求的处理性能,进而解决了相关技术中直播事故预防及处理方式比较粗略的问题,达到了有效保护直播系统下层服务以及公共资源进而避免发生雪崩效应而影响整个系统功能的技术效果。
附图说明
[0019]此处所说明的附图用来提供对本专利技术的进一步理解,构成本申请的一部分,本专利技术的示意性实施例及其说明用于解释本专利技术,并不构成对本专利技术的不当限定。在附图中:
[0020]图1为本专利技术实施例提供的一种业务请求的处理方法的流程示意图;
[0021]图2为本专利技术实施例提供的一种业务请求的处理装置的示意图(一);
[0022]图3为本专利技术实施例提供的一种业务请求的处理装置的示意图(二);
[0023]图4为本专利技术实施例提供的一种业务请求的处理装置的示意图(三)。
具体实施方式
[0024]为了使本
的人员更好地理解本专利技术方案,下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是
本专利技术一部分的实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本专利技术保护的范围。
[0025]需要说明的是,本专利技术的说明书和权利要求书及附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于限定特定顺序。
[0026]本专利技术实施例提供一种业务请求的处理方法,图1为本专利技术实施例提供的一种业务请求的处理方法的流程示意图。
[0027]可选地,本专利技术实施例的应用场景包括但并不限于:
[0028]场景一、用户通过直播平台查询货品详情并进行购买,由于购买人数较多,系统经常会因为压力过于集中,并发过大,而底层的系统或部分旁路依赖系统无法承受的情况下,出现卡死的情况,那么就可以使用本专利技术实施例提供的方法,分别计算出每个业务请求所对应的每秒查询率QPS;根据该每个业务请求所对应的QPS,使用令牌桶算法对该每个业务请求分别设置令牌桶的数量,其中,该令牌桶用于对该业务请本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种业务请求的处理方法,其特征在于,包括:分别计算出每个业务请求所对应的每秒查询率QPS;根据所述每个业务请求所对应的QPS,使用令牌桶算法对所述每个业务请求分别设置令牌桶的数量,其中,所述令牌桶用于对所述业务请求进行控制;在接收到业务请求后,设置所述业务请求从所述令牌桶中获取令牌;在所述业务请求获取到所述令牌的情况下,对所述业务请求进行处理。2.根据权利要求1所述的业务请求的处理方法,其特征在于,在对所述业务请求进行处理之后,所述方法还包括:实时获取所述令牌桶的业务请求处理能力,其中,所述业务请求处理能力包括所述令牌桶每秒处理的业务请求数大于第一预设阈值;根据所述令牌桶的业务请求处理能力,使用预设规则补充所述令牌桶的数量,其中,所述预设规则包括毫秒级别的补充规则。3.根据权利要求1所述的业务请求的处理方法,其特征在于,所述方法还包括:获取所述每个业务请求的请求阈值;在所述业务请求的请求数大于所述请求阈值时,在控制面板上单独对所述业务请求进行控制。4.根据权利要求1所述的业务请求的处理方法,其特征在于,所述方法还包括:在系统的入口网关处,使用redis集群对所述业务请求进行统计。5.根据权利要求1所述的业务请求的处理方法,其特征在于,所述方法还包括:判断所述令牌桶中剩余令牌的数量是否低于第二预设阈值;在判断结果为是的情况下,获取所述业务请求的优先级;根据所述业务请求的优先级,对所述业务请求进行处理。6.一种业务请求的处理装置,其特...

【专利技术属性】
技术研发人员:周雅倩
申请(专利权)人:深圳小鹅网络技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1