服务集群资源分配方法、装置及计算机设备制造方法及图纸

本发明专利技术公开了一种服务集群资源分配方法、装置及计算机设备，方法包括：配置目标服务集群对应的初始化资源分配策略并下发至路由网关；获取埋点数据，埋点数据至少包括每个服务集群中每个API服务器的调用量和调用时长；基于埋点数据计算每个服务集群中每个API服务器的资源空闲比，并将资源空闲比符合第一预设条件的API服务器标记为空闲服务器；判断目标服务集群的调用量是否大于预设阈值；若是，则生成更新调度规则并实时发送至路由网关以供路由网关根据更新调度规则分发资源，更新调度规则至少包括将预设数量的标记为空闲服务器的API服务器调拨至目标服务集群；保证系统的高可用性及业务连续性，最大化利用服务器资源性能，降低成本。降低成本。降低成本。

【技术实现步骤摘要】
服务集群资源分配方法、装置及计算机设备


[0001]本专利技术涉及通信领域，具体涉及一种服务集群资源分配方法、装置及计算机设备。

技术介绍

[0002]微服务架构是一项在云中部署应用和服务的新技术，其基本思想在于围绕着业务领域组件来创建应用，这些应用可独立地进行开发、管理和加速。微服务架构中可拆分成很多低耦合的服务，服务或服务群组之间相互隔离并独立，开发团队可以独立的迭代、维护及构建这些服务群模块，并且基本消除了单服务发生问题时可能对其他服务的运行所产生的影响。但是微服务的完全独立也具有两面性，各服务之间的独立维护，很多如安全性、流控、通用能力就无法通盘考虑，这就促进了API网关的诞生。API网关是面向前端或外部API的托管服务，提供API的完整生命周期管理，同时所有API服务请求均需经过网关转发，网关提供动态代理、安全防护、流控降级、服务统计、灰度发布、流量负载、监控告警等通用能力。
[0003]当前采用的架构中所有对外服务均通过网关对外暴露，而网关作为金融API请求的统一入口，如果采用所有API服务共享服务器资源的形式，那么将面临中心化的共性问题：当某个服务发生故障或由于性能问题造成连接长时间无法释放，很有可能将网关服务器资源全部占满，进而影响其他API服务的正常调用，造成大面积业务影响。另一方面，不同业务的API服务由于业务特性的不同，API服务访问峰值及周期均有不同，并且时常会提出临时性的性能要求。为解决上述问题，出于业务隔离的原则考虑，网关根据API服务的业务特性及重要程度进行了分组。在网关接收到API调用请求时，利用动态代理规则将流量分发到各API服务群，并对不同API服务群分配了不同的服务器集群。但由于服务器集群之间是互相隔离的，原有的服务器负载均衡策略也就不再适用。
[0004]因此，需要一种智能动态调配服务器的解决方案，在服务器集群之间互相隔离的情况下保证服务器资源利用率。

技术实现思路

[0005]本专利技术目的是：提供一种服务集群资源分配方法、装置及计算机设备。
[0006]本专利技术的技术方案是：第一方面，本专利技术提供一种服务集群资源分配方法，应用于微服务架构，所述方法包括：
[0007]配置目标服务集群对应的初始化资源分配策略并下发至路由网关；
[0008]获取埋点数据，所述埋点数据至少包括每个服务集群中每个API服务器的调用量和调用时长；
[0009]基于所述埋点数据计算每个服务集群中每个API服务器的资源空闲比，并将资源空闲比符合第一预设条件的API服务器标记为空闲服务器；
[0010]判断所述目标服务集群的调用量是否大于预设阈值；
[0011]若是，则生成更新调度规则并实时发送至路由网关以供所述路由网关根据所述更新调度规则分发资源，所述更新调度规则至少包括将预设数量的标记为空闲服务器的API
服务器调拨至所述目标服务集群。
[0012]在一种较佳的实施方式中，所述基于所述埋点数据计算每个服务集群中每个API服务器的资源空闲比，并将资源空闲比符合第一预设条件的API服务器标记为空闲服务器之后，所述方法还包括：
[0013]按第二预设条件对标记为空闲服务器的API服务器进行排序获得空闲服务器序列表；
[0014]所述更新调度规则至少包括将所述空闲服务器列表中前预设数量的标记为空闲服务器的API服务器调拨至所述目标服务集群。
[0015]在一种较佳的实施方式中，所述根据用户请求分配目标服务集群之后，所述获取埋点数据之前，所述方法还包括：
[0016]配置与所述目标服务集群对应的执行级别，所述执行级别包括自动执行或人工执行或半自动执行。
[0017]在一种较佳的实施方式中，所述执行级别包括自动执行时，所述生成更新调度规则并实时发送至路由网关以供所述路由网关根据所述更新调度规则分发资源之前，所述方法还包括：
[0018]备份当前资源分配策略；
[0019]所述生成更新调度规则并实时发送至路由网关以供所述路由网关根据所述更新调度规则分发资源之后，所述方法还包括：
[0020]发送告警信息以及方案调整信息至网关管理员客户端以进行告知。
[0021]在一种较佳的实施方式中，所述生成更新调度规则并实时发送至路由网关以供所述路由网关根据所述更新调度规则分发资源之后，所述方法还包括：
[0022]监测预设时长后所述目标服务集群的性能指标数据是否符合预设性能指标数据阈值，所述性能指标数据至少包括：目标服务集群总访问量、峰值TPS、平均响应耗时、TP999；
[0023]若否，则继续调拨所述预设数量的标记为空闲服务器的API服务器至所述目标服务集群。
[0024]在一种较佳的实施方式中，所述方法还包括：
[0025]若所述调用量和所述性能指标数据符合第三预设条件，则获取备份资源分配策略发送至所述路由网关供所述路由网关还原分配策略。
[0026]在一种较佳的实施方式中，所述执行级别包括半自动执行时，所述判断所述目标服务集群的调用量是否大于预设阈值之后，所述方法还包括：
[0027]基于所述空闲服务器列表、所述目标服务集群中每个API服务器的调用量和调用时长计算规则调整推荐方案；
[0028]发送所述规则调整推荐方案至网关管理员客户端以供选择；
[0029]接收网关管理员客户端发送的调整指令；
[0030]所述生成更新调度规则包括根据所述推荐调整指令生成更新调度规则。
[0031]在一种较佳的实施方式中，所述调整指令至少包括规则调整方案及生效时长，所述生效时长包括永久生效或临时生效；
[0032]当所述生效时长包括临时生效时，备份当前资源分配策略并在所述目标服务集群
的性能指标数据符合预设性能指标数据阈值后发送提醒通知至网关管理员客户端；
[0033]接收所述网关管理员客户端发送的执行指令，所述执行指令包括恢复策略或继续执行当前策略；
[0034]若所述执行指令包括恢复策略，则以备份资源分配策略覆盖当前策略并下发执行；
[0035]若所述生效时长包括永久生效，则标记当前策略为永久策略。
[0036]第二方面，本专利技术提供一种服务集群资源分配装置，所述装置应用于微服务架构，所述装置包括：
[0037]分配配置模块，用于配置目标服务集群对应的初始化资源分配策略并下发至路由网关；
[0038]获取模块，用于获取埋点数据，所述埋点数据至少包括每个服务集群中每个API服务器的调用量和调用时长；
[0039]计算标记模块，用于基于所述埋点数据计算每个服务集群中每个API服务器的资源空闲比，并将资源空闲比符合第一预设条件的API服务器标记为空闲服务器；
[0040]判断模块，用于判断所述目标服务集群的调用量是否大于预设阈值；
[0041]生成发送模块，用于在所述判断模块的判断结果为是时，生成更新调度规则并实时发送至路由网关以供所述路由网关根据所述本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种服务集群资源分配方法，应用于微服务架构，其特征在于，所述方法包括：配置目标服务集群对应的初始化资源分配策略并下发至路由网关；获取埋点数据，所述埋点数据至少包括每个服务集群中每个API服务器的调用量和调用时长；基于所述埋点数据计算每个服务集群中每个API服务器的资源空闲比，并将资源空闲比符合第一预设条件的API服务器标记为空闲服务器；判断所述目标服务集群的调用量是否大于预设阈值；若是，则生成更新调度规则并实时发送至路由网关以供所述路由网关根据所述更新调度规则分发资源，所述更新调度规则至少包括将预设数量的标记为空闲服务器的API服务器调拨至所述目标服务集群。2.根据权利要求1所述的服务集群资源分配方法，其特征在于，所述基于所述埋点数据计算每个服务集群中每个API服务器的资源空闲比，并将资源空闲比符合第一预设条件的API服务器标记为空闲服务器之后，所述方法还包括：按第二预设条件对标记为空闲服务器的API服务器进行排序获得空闲服务器序列表；所述更新调度规则至少包括将所述空闲服务器列表中前预设数量的标记为空闲服务器的API服务器调拨至所述目标服务集群。3.根据权利要求2所述的服务集群资源分配方法，其特征在于，所述根据用户请求分配目标服务集群之后，所述获取埋点数据之前，所述方法还包括：配置与所述目标服务集群对应的执行级别，所述执行级别包括自动执行或人工执行或半自动执行。4.根据权利要求3所述的服务集群资源分配方法，其特征在于，所述执行级别包括自动执行时，所述生成更新调度规则并实时发送至路由网关以供所述路由网关根据所述更新调度规则分发资源之前，所述方法还包括：备份当前资源分配策略；所述生成更新调度规则并实时发送至路由网关以供所述路由网关根据所述更新调度规则分发资源之后，所述方法还包括：发送告警信息以及方案调整信息至网关管理员客户端以进行告知。5.根据权利要求3或4所述的服务集群资源分配方法，其特征在于，所述生成更新调度规则并实时发送至路由网关以供所述路由网关根据所述更新调度规则分发资源之后，所述方法还包括：监测预设时长后所述目标服务集群的性能指标数据是否符合预设性能指标数据阈值，所述性能指标数据至少包括：目标服务集群总访问量、峰值TPS、平均响应耗时、TP999；若否，则继续调拨所述预设数量的标记为空闲服务器的API服务器至所述目标服务集群。6.根据权利要求5所述的服务集群资...

【专利技术属性】
技术研发人员：王鑫，肖军，
申请(专利权)人：南京星云数字技术有限公司，
类型：发明
国别省市：