服务端CPU限流方法及装置制造方法及图纸

技术编号:43572860 阅读:26 留言:0更新日期:2024-12-06 17:41
本申请公开了一种服务端CPU限流方法及装置,方法包括:确定服务端请求的初始额度值,并根据初始额度值初始化实时额度值,根据初始额度值确定请求随机数的取值范围;根据预设时间间隔获取服务端的CPU利用率,将CPU利用率和预设利用率阈值进行比较,得到第一比较结果;根据第一比较结果,利用和性增长乘法减少对实时额度值进行调整;针对任一对服务端的请求,基于请求随机数的取值范围生成请求对应的请求随机数,根据请求随机数与实时额度值的第二比较结果,允许或者禁止请求访问服务端。通过对CPU利用率进行监控,根据和性增长乘法减少对服务端请求的实时额度值进行自适应调节,根据实时额度值平稳地控制请求量。

【技术实现步骤摘要】

本申请涉及互联网,具体涉及一种服务端cpu限流方法及装置。


技术介绍

1、用户在访问服务端时,向服务端发送请求,当服务端的请求过多,会导致服务端承受过大的压力,发生如在客户端页面无法正常加载等问题。限流是当服务负载或者qps(queries-per-second,每秒查询率)等超过一定load(量级)时,丢弃一部分请求,以控制数据或服务访问速率,保护服务路径核心系统不被拖垮的技术方案,是服务端的一种过载保护手段。

2、现有的限流方法是对一定时间内单个进程或者单个用户的请求进行限制,其需要先对系统进行压测,还限定了线上的业务和机器环境保证基本一致的情况下,才能复用这种限流方法。但对于线上环境复杂的情况,这种死板的限流方法比较难推行,适用范围也比较窄,还需要针对每个业务进行调整。进一步,现有的限流当超过特定的负载直接禁止进入,系统负载恢复则放开,使得无法达到稳定的限流效果。


技术实现思路

1、鉴于上述问题,提出了本申请实施例以便提供一种克服上述问题或者至少部分地解决上述问题的服务端cpu限流方法及装置本文档来自技高网...

【技术保护点】

1.一种服务端CPU限流方法,其包括:

2.根据权利要求1所述的方法,其中,所述确定服务端请求的初始额度值,并根据所述初始额度值初始化实时额度值,根据所述初始额度值确定请求随机数的取值范围进一步包括:

3.根据权利要求1所述的方法,其中,所述根据第一比较结果,利用和性增长乘法减少对所述实时额度值进行调整进一步包括:

4.根据权利要求3所述的方法,其中,所述利用和性因子与所述实时额度值相加,以增加所述实时额度值进一步包括:

5.根据权利要求1-4中任一项所述的方法,其中,所述针对任一对服务端的请求,基于请求随机数的取值范围生成所述请求对应的请...

【技术特征摘要】

1.一种服务端cpu限流方法,其包括:

2.根据权利要求1所述的方法,其中,所述确定服务端请求的初始额度值,并根据所述初始额度值初始化实时额度值,根据所述初始额度值确定请求随机数的取值范围进一步包括:

3.根据权利要求1所述的方法,其中,所述根据第一比较结果,利用和性增长乘法减少对所述实时额度值进行调整进一步包括:

4.根据权利要求3所述的方法,其中,所述利用和性因子与所述实时额度值相加,以增加所述实时额度值进一步包括:

5.根据权利要求1-4中任一项所述的方法,其中,所述针对任一对服务端的请求,基于请求随机数的取值范围生成所述请求对应的请求随机数进一步包括:

6.根据权利要求1-5中任一项所述的方法,其中,所述根...

【专利技术属性】
技术研发人员:张建锋刘勇江杨成进蔡尚志
申请(专利权)人:上海幻电信息科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1