服务管理系统、方法、设备及存储介质技术方案

本申请实施例公开了服务管理系统、方法、设备及存储介质。其中，该系统中包括配额池和至少两个服务节点，服务节点用于根据用户请求的接收情况对自身的节点剩余配额进行更新，在节点剩余配额满足预设条件的情况下，向配额池发送配额分配请求，配额池用于在接收到服务节点发送的配额分配请求时，根据系统的未分配配额对配额分配请求进行响应。通过采用上述技术方案，由配额池对系统的总配额进行维护，由服务节点动态地向配额池请求分配配额，可以在维持总额度一致的情况下，提高分布式限量服务的吞吐率，且实现节点可以持有动态配额，缓解供求不合理问题。求不合理问题。求不合理问题。

【技术实现步骤摘要】
服务管理系统、方法、设备及存储介质


[0001]本申请实施例涉及互联网
，尤其涉及服务管理系统、方法、设备及存储介质。

技术介绍

[0002]在分布式场景下，为保证系统的可用性和稳定性等，让请求和并发在应用可接受的范围内，经常需要对服务进行限流，也即提供限量服务。
[0003]目前，分布式系统中的限量服务通常是将配置的总数额放在一个节点上，并保障该数额操作的原子性，从而进行服务数量限制。然而，单点操作通常会限制服务性能，造成较高的延迟，难以保障服务的吞吐率。因此，现有的服务管理方案并不完善，需要改进。

技术实现思路

[0004]本申请实施例提供了服务管理系统、方法、设备及存储介质，可以优化现有的服务管理方案，解决限量服务吞吐率差的问题。
[0005]第一方面，本申请实施例提供了一种服务管理系统，包括配额池和服务节点，所述服务节点的数量为至少两个，其中：
[0006]所述服务节点，用于根据用户请求的接收情况对自身的节点剩余配额进行更新，在节点剩余配额满足预设条件的情况下，向所述配额池发送配额分配请求；本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种服务管理系统，其特征在于，包括配额池和服务节点，所述服务节点的数量为至少两个，其中：所述服务节点，用于根据用户请求的接收情况对自身的节点剩余配额进行更新，在节点剩余配额满足预设条件的情况下，向所述配额池发送配额分配请求；所述配额池，用于在接收到所述服务节点发送的所述配额分配请求时，根据系统的未分配配额对所述配额分配请求进行响应。2.根据权利要求1所述的系统，其特征在于，所述预设条件包括节点剩余配额小于节点剩余配额阈值，所述节点剩余配额阈值为服务节点自身的节点配额上限与预设比例的乘积。3.根据权利要求2所述的系统，其特征在于，所述服务节点还用于：基于预设更新方式根据预设时长内的用户请求总量，更新服务节点自身的节点配额上限。4.根据权利要求3所述的系统，其特征在于，所述预设更新方式包括：更新后的节点配额上限为更新前的节点配额上限与所述用户请求总量的加权和。5.根据权利要求3所述的系统，其特征在于，所述服务节点在向所述配额池发送配额分配请求时，具体用于：根据自身的节点配额上限与节点剩余配额的差值，确定配额请求量；向所述配额池发送配额分配请求，其中，所述配额分配请求中包括所述配额请求量；其中，所述配额池在根据系统的未分配配额对所述配额分配请求进行响应时，具体用于：在系统的未分配配额大于或等于所接收到的配额分配请求中的配额请求量时，向对应的服务节点分配所述配额请求量对应的额度，并更新未分配配额。6.根据权利要求1所述的系统，其特征在于，所述配额池还...

【专利技术属性】
技术研发人员：王凯，陈培虎，胡啸飞，
申请(专利权)人：百果园技术新加坡有限公司，
类型：发明
国别省市：