一种系统限流方法和装置制造方法及图纸

本申请实施例提供了一种系统限流方法和装置，涉及金融科技技术领域，该方法包括：基于调用方系统与被调用方系统之间的请求响应特征，确定被调用方系统的负载状态，以及基于调用方系统在多个历史时间帧内的吞吐量数据，获得调用方系统在当前时间帧内的预测吞吐量；然后采用被调用方系统的负载状态和调用方系统的预测吞吐量，确定调用方系统的吞吐量阈值，并采用吞吐量阈值，对调用方系统进行流量控制，实现了在调用方系统侧进行限流，有效解决传统限流方案中重复发送调用请求带来的IO资源占用问题，进而既使调用方系统的调用请求得到充分满足，也在保证被调用方系统的稳定性的前提下最大化地提升了资源利用率。前提下最大化地提升了资源利用率。前提下最大化地提升了资源利用率。

【技术实现步骤摘要】
一种系统限流方法和装置


[0001]本申请实施例涉及金融科技
，尤其涉及一种系统限流方法和装置。

技术介绍

[0002]微服务架构是主流的IT系统架构方案，微服务架构在面对预期外流量时，采用限流熔断技术进行限流，限流熔断技术是系统能够在灾难情况下提供有损服务的理论依据。比如，在电商领域中，商品查询、下单、支付等被调用方系统通常对应一个每秒处理事务数(Transactions Per Second，简称TPS)阀值。当调用方系统的流量调用大于TPS阀值时，被调用方系统拒绝调用方系统的新调用请求。当调用方系统的流量调用小于等于TPS阀值时，被调用方系统允许调用方系统的新调用请求。
[0003]当调用方系统的调用请求被拒绝时，调用方系统会再次发起调用请求，而此时被调用方系统大概率会再次拒绝调用请求。对于被调用方系统来说，重复多次接收调用请求导致IO资源被占用，进而导致系统负载过高。

技术实现思路

[0004]本申请实施例提供了一种系统限流方法和装置，实现在调用方系统侧进行限流，以保证被调用方系统的稳定性的前提下最大化地提本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种系统限流方法，其特征在于，包括：获取第i
‑
1个时间帧内调用方系统与被调用方系统之间的请求响应特征；基于所述请求响应特征，确定所述被调用方系统的负载状态；以及基于所述调用方系统在第i个时间帧之前的多个历史时间帧内的吞吐量数据，获得所述调用方系统在第i个时间帧内的预测吞吐量，其中，i为大于1的正整数；采用所述被调用方系统的负载状态和所述预测吞吐量，确定所述调用方系统在所述第i个时间帧内的吞吐量阈值；基于所述吞吐量阈值，对所述第i个时间帧内所述调用方系统向所述被调用方系统发送的调用请求进行流量控制。2.如权利要求1所述的方法，其特征在于，所述获取第i
‑
1个时间帧内调用方系统与被调用方系统之间的请求响应特征，包括：统计第i
‑
1个时间帧内所述调用方系统与所述被调用方系统之间的请求数量或响应数量；将所述第i
‑
1个时间帧的时长与所述请求数量的比值，作为所述请求响应特征；或者，将所述第i
‑
1个时间帧的时长与所述响应数量的比值，作为所述请求返回特征。3.如权利要求1所述的方法，其特征在于，所述基于所述请求响应特征，确定所述被调用方系统的负载状态，包括：基于所述第i
‑
1个时间帧内的请求响应特征，与第i
‑
2个时间帧内的请求响应特征，确定所述第i
‑
1个时间帧内的请求响应增益；基于所述第i
‑
1个时间帧内的请求响应增益和所述第i
‑
1个时间帧的时长，确定所述第i
‑
1个时间帧内的请求响应梯度；基于所述请求响应梯度与预设的过载系数之间的关联关系，确定所述被调用方系统的负载状态。4.如权利要求3所述的方法，其特征在于，所述基于所述请求响应梯度与预设的过载系数之间的关联关系，确定所述被调用方系统的负载状态，包括：若所述请求响应梯度大于所述过载系数，则确定所述被调用方系统的负载状态为高负载状态；若所述请求响应梯度小于等于所述过载系数，且大于零，则确定所述被调用方系统的负载状态为低负载状态；若所述请求响应梯度小于等于零，则确定所述被调用方系统的负载状态为正常状态。5.如权利要求1所述的方法，其特征在于，所述基于所述调用方系统在...

【专利技术属性】
技术研发人员：魏帅超，汪仕富，
申请(专利权)人：深圳前海微众银行股份有限公司，
类型：发明
国别省市：