限流接口的访问方法、装置、电子设备及介质制造方法及图纸

本发明专利技术提供了一种限流接口的访问方法、装置、电子设备及介质，包括：当客户端集群的目标节点请求访问服务端的限流接口时，获取当前时刻客户端集群的每秒请求量以及目标节点的当前令牌数；如果客户端集群的每秒请求量小于服务端的限流接口的访问量阈值，且目标节点的当前令牌数大于零，则允许目标节点访问限流接口。本发明专利技术提高了客户端集群请求访问服务端限流接口的稳定性。流接口的稳定性。流接口的稳定性。

【技术实现步骤摘要】
限流接口的访问方法、装置、电子设备及介质


[0001]本专利技术涉及计算机
，尤其是涉及一种限流接口的访问方法、装置、电子设备及介质。

技术介绍

[0002]随着网络技术不断的发展和扩大，在很多网络平台或者内部平台都会以开放接口的形式来提供不同的服务或者功能，以满足与不同平台集成的需求。互联网服务提供平台提供开放接口供第三方开发者在开发互联网应用程序中进行调用。为了保障服务器运行的稳定性，防止服务器被瞬间涌入的访问流量冲垮，服务端通常会对一些重要接口进行限流处理。但是，现有的方法大都集中在服务端的限流方式上，当有很多客户需要通过api频繁访问服务端限流接口进行数据处理时，会出现因接口访问频率过高，服务端返回错误信息导致后续处理逻辑错误的问题，无法确保客户端集群请求访问限流接口的稳定性。

技术实现思路

[0003]有鉴于此，本专利技术的目的在于提供一种限流接口的访问方法、装置、电子设备及介质，以提高了客户端集群请求访问服务端限流接口的稳定性。
[0004]为了实现上述目的，本专利技术实施例采用的技术方案如下：
[0005]第一方面，本专利技术实施例提供了一种限流接口的访问方法，包括：当客户端集群的目标节点请求访问服务端的限流接口时，获取当前时刻客户端集群的每秒请求量以及目标节点的当前令牌数；如果客户端集群的每秒请求量小于服务端的限流接口的访问量阈值，且目标节点的当前令牌数大于零，则允许目标节点访问限流接口。
[0006]在一种实施方式中，获取当前时刻客户端集群的每秒请求量以及目标节点的当前令牌数，包括：获取当前时刻客户端集群中每个节点的每秒请求量，将每个节点的每秒请求量的和确定为客户端集群的每秒请求量；基于目标节点的每秒请求量、客户端集群的每秒请求量和服务端的限流接口的访问量阈值确定目标节点的访问速率，并基于访问速率确定目标节点的当前令牌数。
[0007]在一种实施方式中，获取当前时刻客户端集群中每个节点的每秒请求量，包括：基于当前时刻的时间戳毫秒数和预先设定的统计时间间隔，确定计算格子的编号；其中，计算格子用于储存统计时间间隔内节点访问限流接口的请求量，计算格子是基于统计时间间隔划分得到的；基于当前时刻的请求量计数值更新编号对应的计算格子内储存的请求量值，并将请求量计数值清零；其中，请求量计数值为统计时间间隔内节点访问限流接口的请求量；对于每个节点，将节点的每个计算格子对应的请求量值的和确定节点当前时刻的每秒请求量。
[0008]在一种实施方式中，基于目标节点的每秒请求量、客户端集群的每秒请求量和服务端的限流接口的访问量阈值确定目标节点的访问速率，包括：按照以下公式计算目标节点的访问速率：
[0009]Vi＝P*(T
‑
Li)/((N
‑
1)*T)
[0010]其中，Vi为目标节点的访问速率，T为客户端集群的每秒请求量，Li为目标节点的每秒请求量，N为客户端集群的节点的数量，P为服务端的限流接口的访问量阈值。
[0011]在一种实施方式中，基于访问速率确定目标节点的当前令牌数，包括：基于目标节点的访问速率确定统计时间间隔内的新增令牌数；判断目标节点的原令牌数是否超过令牌数阈值；如果原令牌数超过令牌数阈值，则判断原令牌数与新增令牌数的和是否超过令牌数阈值；如果原令牌数与新增令牌数的和超过令牌数阈值，则将令牌数阈值确定为目标节点的当前令牌数；如果原令牌数与新增令牌数的和没有超过令牌数阈值，则将原令牌数与新增令牌数的和确定为目标节点的当前令牌数。
[0012]在一种实施方式中，该方法还包括：如果客户端集群的每秒请求量大于或等于服务端的限流接口的访问量阈值，则停止更新客户端集群各节点的令牌数，直至客户端集群的每秒请求量小于服务端的限流接口的访问量阈值。
[0013]在一种实施方式中，该方法还包括：如果客户端集群的每秒请求量大于或等于服务端的限流接口的访问量阈值，或者目标节点的当前令牌数等于零，则等待最小统计时间间隔后，重新获取客户端集群的每秒请求量以及目标节点的当前令牌数进行判断。
[0014]第二方面，本专利技术实施例提供了一种限流接口的访问装置，包括：数据获取模块，用于当客户端集群的目标节点请求访问服务端的限流接口时，获取当前时刻客户端集群的每秒请求量以及目标节点的当前令牌数；判断模块，用于如果客户端集群的每秒请求量小于服务端的限流接口的访问量阈值，且目标节点的当前令牌数大于零，则允许目标节点访问限流接口。
[0015]第三方面，本专利技术实施例提供了一种电子设备，包括处理器和存储器，存储器存储有能够被处理器执行的计算机可执行指令，处理器执行计算机可执行指令以实现上述第一方面提供的任一项的方法的步骤。
[0016]第四方面，本专利技术实施例提供了一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，计算机程序被处理器运行时执行上述第一方面提供的任一项的方法的步骤。
[0017]本专利技术实施例带来了以下有益效果：
[0018]本专利技术实施例提供的上述限流接口的访问方法、装置、电子设备及介质，当客户端集群的目标节点请求访问服务端的限流接口时，能够获取当前时刻客户端集群的每秒请求量以及目标节点的当前令牌数；如果客户端集群的每秒请求量小于服务端的限流接口的访问量阈值，且目标节点的当前令牌数大于零，则允许目标节点访问限流接口。上述方法通过对客户端集群请求访问服务端限流接口的每秒请求量进行统计，并根据客户端集群的每秒请求量以及目标节点的当前令牌数判断目标节点是否能够访问限流接口，从而能够使客户端集群访问限流接口更加平衡，提高了客户端集群请求访问服务端限流接口的稳定性，避免了因单节点突发请求导致整个客户端集群被限流的问题。
[0019]本专利技术的其他特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本专利技术而了解。本专利技术的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
[0020]为使本专利技术的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合
所附附图，作详细说明如下。
附图说明
[0021]为了更清楚地说明本专利技术具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本专利技术的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0022]图1为本专利技术实施例提供的一种限流接口的访问方法的流程图；
[0023]图2为本专利技术实施例提供的一种客户端集群节点访问限流接口的示意图；
[0024]图3为本专利技术实施例提供的一种节点初始化示意图；
[0025]图4为本专利技术实施例提供的一种判断逻辑示意图；
[0026]图5为本专利技术实施例提供的一种节点RPS值更新示意图；
[0027]图6为本专利技术实施例提供的节点1在1665467139500时刻未更新前的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种限流接口的访问方法，其特征在于，包括：当客户端集群的目标节点请求访问服务端的限流接口时，获取当前时刻所述客户端集群的每秒请求量以及所述目标节点的当前令牌数；如果所述客户端集群的每秒请求量小于所述服务端的限流接口的访问量阈值，且所述目标节点的当前令牌数大于零，则允许所述目标节点访问所述限流接口。2.根据权利要求1所述的访问方法，其特征在于，获取当前时刻所述客户端集群的每秒请求量以及所述目标节点的当前令牌数，包括：获取当前时刻所述客户端集群中每个节点的每秒请求量，将所述每个节点的每秒请求量的和确定为所述客户端集群的每秒请求量；基于所述目标节点的每秒请求量、所述客户端集群的每秒请求量和所述服务端的限流接口的访问量阈值确定所述目标节点的访问速率，并基于所述访问速率确定所述目标节点的当前令牌数。3.根据权利要求2所述的访问方法，其特征在于，获取当前时刻所述客户端集群中每个节点的每秒请求量，包括：基于当前时刻的时间戳毫秒数和预先设定的统计时间间隔，确定计算格子的编号；其中，所述计算格子用于储存所述统计时间间隔内所述节点访问所述限流接口的请求量，所述计算格子是基于所述统计时间间隔划分得到的；基于当前时刻的请求量计数值更新所述编号对应的计算格子内储存的请求量值，并将所述请求量计数值清零；其中，所述请求量计数值为所述统计时间间隔内所述节点访问所述限流接口的请求量；对于每个所述节点，将所述节点的每个所述计算格子对应的请求量值的和确定所述节点当前时刻的每秒请求量。4.根据权利要求2所述的访问方法，其特征在于，基于所述目标节点的每秒请求量、所述客户端集群的每秒请求量和所述服务端的限流接口的访问量阈值确定所述目标节点的访问速率，包括：按照以下公式计算所述目标节点的访问速率：Vi＝P*(T
‑
Li)/((N
‑
1)*T)其中，Vi为所述目标节点的访问速率，T为所述客户端集群的每秒请求量，Li为所述目标节点的每秒请求量，N为所述客户端集群的节点的数量，P为所述服务端的限流接口的访问量阈值。5....

【专利技术属性】
技术研发人员：廖新考，何盼，陈晓峰，
申请(专利权)人：上海苍阙信息科技有限公司，
类型：发明
国别省市：