一种实现API网关请求转发调度的方法技术

技术编号:36114534 阅读:33 留言:0更新日期:2022-12-28 14:18
本发明专利技术公开了一种实现API网关请求转发调度的方法,通过创建一个队列来缓冲请求,构建一个任务线程池对队列进行消费,进行请求转发的调度,并且增加了对任务线程池的实时监控,根据网关的工作状态,预测下一阶段的请求数量,动态调整线程池的参数。由此本发明专利技术可在保证高并发量情况下及时响应新进来的请求,当系统资源紧张时可以有效缓冲请求任务,进而保证网关服务的可容错性和稳定性。网关服务的可容错性和稳定性。网关服务的可容错性和稳定性。

【技术实现步骤摘要】
一种实现API网关请求转发调度的方法


[0001]本专利技术涉及网络通讯方法领域,具体是一种实现API网关请求转发调度的方法。

技术介绍

[0002]目前,公知的API网关服务是将第三方API进行对外开放,第三方业务系统将自身对外提供的API服务注册到网关服务平台中,并且通过网关服务进行对外开放,API网关服务平台在其中行使API的治理、鉴权、流控、熔断、日志记录等功能。
[0003]随着现在软件开发系统微服务化的流行,越来越依赖一个统一的API网关对请求进行鉴权和转发调度。现有的API网关的传统做法是在收到请求之后, 进行相应的校验过滤之后, 直接使用http的重定向请求至真实的后端请求,从而达到相应的网关API统一入口的管理和请求到真实的后端服务器。
[0004]但是现有的API网关在并发量大的情况下,会出现相应的请求阻塞,进而无法及时对API进行服务的问题。

技术实现思路

[0005]本专利技术的目的是提供一种实现API网关请求转发调度的方法,以解决现有技术API网关在请求量大时存在无法及时服务的问题。...

【技术保护点】

【技术特征摘要】
1.一种实现API网关请求转发调度的方法,其特征在于,根据需求预先配置好任务线程池,并设置队列机制,实现高并发高性能的网关系统,包括以下步骤:步骤S1、通过API网关的配置文件中的线程数量相关配置,创建任务线程池,并设定任务线程池最大的工人线程worker数量以及最大同时工作任务数目;步骤S2、当网络请求到达网关后,网关根据配置文件对请求进行过滤和校验,对于符合规则的请求,网关将其封装为任务对象,然后将封装好的任务添加到全局的任务队列中;步骤S3、网关循环访问任务队列,检查是否有待处理的任务,如果有待处理的任务,网关则查询任务线程池,检查当前是否有空...

【专利技术属性】
技术研发人员:周煜常元检周洪杰周楠
申请(专利权)人:安徽葵普科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1