一种API网关的请求控制方法及装置制造方法及图纸

技术编号:40151174 阅读:21 留言:0更新日期:2024-01-26 23:03
本发明专利技术涉及一种API网关的请求控制方法及装置,其中,该方法通过实时获取系统监测数据,计算API网关综合负载数值以判断是否创建API网关优先队列将接收的API请求插入其中进行排队等待,根据其在API网关优先队列中的等待时间处理API请求以获得处理结果。由此,本发明专利技术当计算出的API网关综合负载数值超过阈值时,会自动创建API网关优先队列,将接收的API请求插入API网关优先队列进行排队等待,以排队的方式依次对API请求进行处理,从而使得即使在高负载时系统仍然可以逐渐处理所有请求,而不是直接拒绝一部分请求,能有效应对突发的高并发请求,避免服务器资源耗尽服务中断的情况出现,提高系统稳定性的同时优化用户体验。

【技术实现步骤摘要】

本专利技术涉及计算机网络,尤其涉及一种api网关的请求控制方法及装置。


技术介绍

1、在现代应用架构中,api(application programming interface,应用程序编程接口)网关扮演着不可或缺的重要角色,它充当了连接客户端和后端服务之间的中间层,通过统一入口、保障安全性、管理流量、监控日志等功能,为应用提供了高效、安全、可靠的连接方式,随着应用规模及复杂性的不断增加,api网关并发性能面临着巨大挑战,为了提升api网关并发性能,目前主要通过如下几个方案进行处理:

2、(1)负载均衡方案:api网关通过负载均衡将请求分发到多个后端服务器,以平衡负载并提高可用性;

3、(2)缓存技术:使用缓存提高响应速度和减轻服务器负载;

4、(3)限流和配额:限制每一个用户或ip地址的请求速率,以控制负载和保护服务器免受滥用;

5、但在上述方案中系统的稳定性不足,无法适应突发的高并发流量,且突发的高并发流量可能会导致服务器过载,而在服务器高负载的情况下,可能会导致部分服务中断无法保证每一个请求都能获得适本文档来自技高网...

【技术保护点】

1.一种API网关的请求控制方法,其特征在于,包括:

2.如权利要求1所述的一种API网关的请求控制方法,其特征在于,所述系统监测数据包括CPU使用率、内存利用率、网络流量、请求处理时间、并发连接数和请求成功率,所述根据所述系统检测数据计算API网关综合负载数值包括:

3.如权利要求1所述的一种API网关的请求控制方法,其特征在于,所述将所述API请求插入所述API网关优先队列中进行排队等待,并计算所述API请求的等待时间包括:

4.如权利要求3所述的一种API网关的请求控制方法,其特征在于,所述基于插入后的API网关优先队列计算所述API请求的等待时...

【技术特征摘要】

1.一种api网关的请求控制方法,其特征在于,包括:

2.如权利要求1所述的一种api网关的请求控制方法,其特征在于,所述系统监测数据包括cpu使用率、内存利用率、网络流量、请求处理时间、并发连接数和请求成功率,所述根据所述系统检测数据计算api网关综合负载数值包括:

3.如权利要求1所述的一种api网关的请求控制方法,其特征在于,所述将所述api请求插入所述api网关优先队列中进行排队等待,并计算所述api请求的等待时间包括:

4.如权利要求3所述的一种api网关的请求控制方法,其特征在于,所述基于插入后的api网关优先队列计算所述api请求的等待时间包括:

5.如权利要求1所述的一...

【专利技术属性】
技术研发人员:姚瑞祥
申请(专利权)人:福建福诺移动通信技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1