一种基于负载均衡的请求分配方法和装置制造方法及图纸

本说明书提供了一种基于负载均衡的请求分配方法和装置，涉及负载均衡技术领域，该方法包括：监测多个服务实例的连接数量，所述服务实例对应有权重；根据连接数量，确定所述多个服务实例是否满足均衡条件，所述均衡条件包括：服务实例之间连接数量的比例等于服务实例之间权重的比例；若不满足均衡条件，从所述多个服务实例中选取异常服务实例；调整所述异常服务实例的权重，以便根据调整后的权重为所述异常服务实例分配连接请求，使所述多个服务实例的连接数量满足均衡条件。基于上述方法能够避免请求分配不均而造成负载倾斜的问题。避免请求分配不均而造成负载倾斜的问题。避免请求分配不均而造成负载倾斜的问题。

【技术实现步骤摘要】
一种基于负载均衡的请求分配方法和装置


[0001]本说明书涉及负载均衡
，尤其涉及一种基于负载均衡的请求分配方法和装置。

技术介绍

[0002]随着互联网应用的不断增加以及用户数量的不断增长，服务器的负载也越来越大。负载均衡技术是解决服务器负载过大的有效方式之一。负载均衡技术通常是将许多服务器组合成一个服务器池，并将请求路由到其中一个服务器上。这样可以提高系统的可用性、可扩展性和性能。但是现有负载均衡方法，无法在实现较低性能开销的同时避免在突发场景下导致服务实例间负载倾斜的问题。
[0003]针对上述问题，目前尚未提出有效的解决方案。

技术实现思路

[0004]本说明书提供了一种基于负载均衡的请求分配方法和装置，以解决现有技术无法在实现较低性能开销的同时避免在突发场景下导致服务实例间负载倾斜的问题。
[0005]一方面，本说明书实施例提供了一种基于负载均衡的请求分配方法，包括：
[0006]监测多个服务实例的连接数量，所述服务实例对应有权重；
[0007]根据连接数量，确定所述多个服务实例是否满足均衡条件，所述均衡条件包括：服务实例之间连接数量的比例等于服务实例之间权重的比例；
[0008]若不满足均衡条件，从所述多个服务实例中选取异常服务实例；
[0009]调整所述异常服务实例的权重，以便根据调整后的权重为所述异常服务实例分配连接请求，使所述多个服务实例的连接数量满足均衡条件。
[0010]进一步地，所述根据连接数量，确定所述多个服务实例是否满足均衡条件，包括：
[0011]根据连接数量，确定所述多个服务之间连接数量的比例；确定所述多个服务实例之间连接数量的比例是否等于所述多个服务实例之间权重的比例。
[0012]进一步地，所述不满足均衡条件，包括：所述连接数量的比例大于所述权重的比例和/或所述连接数量的比例小于所述权重的比例。
[0013]进一步地，所述调整所述异常服务实例的权重，包括：
[0014]在所述连接数量的比例大于所述权重的比例时，则降低所述异常服务实例的权重；
[0015]在所述连接数量的比例小于所述权重的比例时，则提升所述异常服务实例的权重。
[0016]进一步地，所述方法还包括：
[0017]根据降低后的权重为所述异常服务实例分配相应的连接请求；
[0018]监测所述异常服务实例在接收到连接请求后的连接数量；
[0019]根据连接数量，确定所述多个服务实例是否满足均衡条件；
[0020]若否，则提升所述异常服务实例的权重，以根据提升后的权重为所述异常服务实例分配连接请求，使所述多个服务实例的连接数量满足均衡条件。
[0021]进一步地，所述方法还包括：
[0022]获取多个服务实例所在服务器的性能数据；所述性能数据包括内存利用率和处理器利用率；
[0023]根据所述内存利用率和处理器利用率，确定多个服务实例对应的权重。
[0024]进一步地，所述方法还包括：
[0025]接收服务调用请求，所述服务调用请求用于请求调用服务；
[0026]根据调整后的权重，从所述多个服务实例选取服务实例；
[0027]将服务调用请求分配至选取的服务实例，以使服务调用请求与选取的服务建立连接。
[0028]另一方面，本说明书实施例还提供了一种基于负载均衡的请求分配装置，包括：
[0029]监测模块，用于监测多个服务实例的连接数量，所述服务实例对应有权重；
[0030]确定模块，用于根据连接数量，确定所述多个服务实例是否满足均衡条件，所述均衡条件包括：服务实例之间连接数量的比例等于服务实例之间权重的比例；
[0031]选取模块，用于若不满足均衡条件，从所述多个服务实例中选取异常服务实例；
[0032]调整分配模块，用于调整所述异常服务实例的权重，以便根据调整后的权重为所述异常服务实例分配连接请求，使所述多个服务实例的连接数量满足均衡条件。
[0033]再一方面，本申请还提供了一种电子设备，包括处理器以及用于存储处理器可执行指令的存储器，所述处理器执行所述指令时实现：监测多个服务实例的连接数量，所述服务实例对应有权重；根据连接数量，确定所述多个服务实例是否满足均衡条件，所述均衡条件包括：服务实例之间连接数量的比例等于服务实例之间权重的比例；若不满足均衡条件，从所述多个服务实例中选取异常服务实例；调整所述异常服务实例的权重，以便根据调整后的权重为所述异常服务实例分配连接请求，使所述多个服务实例的连接数量满足均衡条件。
[0034]再一方面，本申请还提供了一种计算机可读存储介质，其上存储有计算机指令，所述计算机可读存储介质执行所述指令时实现：监测多个服务实例的连接数量，所述服务实例对应有权重；根据连接数量，确定所述多个服务实例是否满足均衡条件，所述均衡条件包括：服务实例之间连接数量的比例等于服务实例之间权重的比例；若不满足均衡条件，从所述多个服务实例中选取异常服务实例；调整所述异常服务实例的权重，以便根据调整后的权重为所述异常服务实例分配连接请求，使所述多个服务实例的连接数量满足均衡条件。
[0035]本说明书提供的一种基于负载均衡的请求分配方法和装置，首先，监测多个服务实例的连接数量，所述服务实例对应有权重。其次，根据连接数量，确定所述多个服务实例是否满足均衡条件，所述均衡条件包括：服务实例之间连接数量的比例等于服务实例之间权重的比例，若不满足均衡条件，则从所述多个服务实例中选取异常服务实例。最后，调整所述异常服务实例的权重，以便根据调整后的权重为所述异常服务实例分配连接请求，使所述多个服务实例的连接数量满足均衡条件。本说明实施例中通过监测多个服务实例的连接数量，可以及时地根据连接数量，判断多个服务实例是否满足均衡条件，从而可以及时地筛选出异常的服务实例。通过调整异常服务实例的权重，可以及时处理突发场景下的服务
实例间出现负载倾斜的问题。
附图说明
[0036]为了更清楚地说明本说明书实施例，下面将对实施例中所需要使用的附图作简单地介绍，下面描述中的附图仅仅是本说明书中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0037]图1是本说明书实施例提供的一种基于负载均衡的请求分配方法的流程示意图；
[0038]图2是在一个场景示例中，应用本说明书实施例提供的一种基于负载均衡的请求分配方法的一种实施例的示意图；
[0039]图3是本说明书实施例提供的一种基于负载均衡的请求分配装置的结构组成示意图；
[0040]图4是本说明书实施例提供的计算机设备结构组成示意图。
具体实施方式
[0041]为了使本
的人员更好地理解本说明书中的技术方案，下面将结合本说明书实施例中的附图，对本说明书实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于负载均衡的请求分配方法，其特征在于，包括：监测多个服务实例的连接数量，所述服务实例对应有权重；根据连接数量，确定所述多个服务实例是否满足均衡条件，所述均衡条件包括：服务实例之间连接数量的比例等于服务实例之间权重的比例；若不满足均衡条件，从所述多个服务实例中选取异常服务实例；调整所述异常服务实例的权重，以便根据调整后的权重为所述异常服务实例分配连接请求，使所述多个服务实例的连接数量满足均衡条件。2.根据权利要求1所述的方法，其特征在于，所述根据连接数量，确定所述多个服务实例是否满足均衡条件，包括：根据连接数量，确定所述多个服务之间连接数量的比例；确定所述多个服务实例之间连接数量的比例是否等于所述多个服务实例之间权重的比例。3.根据权利要求2所述的方法，其特征在于，所述不满足均衡条件，包括：所述连接数量的比例大于所述权重的比例和/或所述连接数量的比例小于所述权重的比例。4.根据权利要求3所述的方法，其特征在于，所述调整所述异常服务实例的权重，包括：在所述连接数量的比例大于所述权重的比例时，则降低所述异常服务实例的权重；在所述连接数量的比例小于所述权重的比例时，则提升所述异常服务实例的权重。5.根据权利要求4所述的方法，其特征在于，所述方法还包括：根据降低后的权重为所述异常服务实例分配相应的连接请求；监测所述异常服务实例在接收到连接请求后的连接数量；根据连接数量，确定所述多个服务实例是否满足均衡条件；若否，则提升所述异常服务实例的权重，以根据提升后的权重为所述异常服务实例分配连接请求，使所述多个服务实例的连接数量满足均衡条件。6.根据权利要求1所述的方...

【专利技术属性】
技术研发人员：张正园，
申请(专利权)人：建信金融科技有限责任公司，
类型：发明
国别省市：