本发明专利技术提出的一种基于动态概率模型的负载均衡方法，包括以下步骤：周期性获取所有服务节点的状态信息；根据服务节点的状态信息对服务节点进行评分，获取与各服务节点对应的评分值；根据各服务节点的评分值计算对应的命中概率；根据命中概率将区间(0，1]划分为与各服务节点对应的命中区间；根据服务请求，在区间(0，1]范围内生成均匀分布随机数作为投射值；获取投射值所在命中区间对应的服务节点作为本次服务的负载节点。本发明专利技术提出的负载均衡方法，不需要完全依赖服务器的瞬时状态，并且能有效地利用次优节点的信息，能有效优化高并发下节点访问的峰值问题，避免硬判决，使各服务节点的负载变得均衡而平滑。
A Load Balancing Method, Device and System Based on Dynamic Probability Model
【技术实现步骤摘要】
一种基于动态概率模型的负载均衡方法、装置和系统
本专利技术涉及分布式服务
，尤其涉及一种基于动态概率模型的负载均衡方法、装置和系统。
技术介绍
分布式服务部署当前已经被广泛使用，比如当前热门的微服务架构，在实际生产中一个服务通常会有多个实际运行的服务器，而当用户真正调用某一个服务时，这一任务具体该被分发到哪一个服务节点实体就属于负载均衡的范畴。常用的负载均衡方法包括轮询、最少连接数、最快响应时间、优先权重、源信息哈希等，它们依赖各服务器节点状态信息或者申请者的源信息来判决此次服务的归属节点。而上述策略中，轮询策略均衡性效果差，其他策略均存在瞬时峰值的问题；瞬时峰值主要由于瞬时状态依赖以及硬判决导致，其中瞬时状态依赖是由于服务节点的负载信息(比如连接数、响应时间)并不能被瞬时感知，而是必须依赖于服务节点周期性的消息交互来获取，在服务器并发程度高、瞬时访问量巨大，因为状态信息无法瞬时更新，依赖这些状态信息的负载策略会导致大批量用户可能瞬时内分配到同一个节点，造成瞬间峰值；硬判决由于每次只会选择某一策略下的最优节点，而忽略了次优节点，造成了有效信息的丢失。现有负载均衡方法因为瞬时状态依赖性和硬判决的缺点，在实际应用中存在瞬时峰值的问题，而在一些瞬时业务极高的场景，比如“秒杀”场景、抢票场景中尤为突出，服务器节点的瞬间极大访问峰值可能直接造成节点瘫痪，进而严重影响服务质量。
技术实现思路
基于
技术介绍
存在的技术问题，本专利技术提出了一种基于动态概率模型的负载均衡方法、装置和系统。本专利技术提出的一种基于动态概率模型的负载均衡方法，包括以下步骤：S1、周期性获取所有服务节点的状态信息；S2、根据服务节点的状态信息对服务节点进行评分，获取与各服务节点对应的评分值；S3、根据各服务节点的评分值计算对应的命中概率；S4、根据命中概率将区间(0，1]划分为与各服务节点对应的命中区间；S5、根据服务请求，在区间(0，1]范围内生成均匀分布随机数作为服务请求对应的投射值；S6、获取投射值所在命中区间对应的服务节点作为本次服务请求的负载节点。优选的，步骤S1中，通过心跳机制周期性获取所有服务节点的状态信息，各服务节点的状态信息由所述服务节点上传的心跳包携带。优选的，步骤S2具体为：根据状态信息对服务节点进行筛选，对连接状态正常的服务节点的状态信息进行量化和归一化，并加权评分获取与各服务节点对应的评分值；优选的，步骤S1中获取的服务节点的状态信息包括：连接数、响应时间和优先级。优选的，步骤S2中，对连接数和优先级进行线性归一化处理，并对响应时间进行非线性归一化处理；优选的，步骤S2中，连接数和优先级的归一化模型如下：其中，Cmax为预定义的最大连接数，Pmax为预定义的最大权重；优选的，步骤S2中，响应时间的归一化模型如下：其中，Rmax为预定义的最大响应时间，kscale为量化的时间间隔尺度，优选的，步骤S2中对服务节点的评分模型为：Wi＝wc×C′i+wr×R′i+wp×P′i，其中，wc为预设的连接数权重，wr为预设的响应时间权重，wp为预设的优先级权重，C′i、R′i和Pi′分别为Ci、Ri和Pi归一化值，Ci、Ri和Pi分别为第i个服务节点的连接数、响应时间和优先级，Wi为第i个服务节点的评分值。优选的，步骤S3中，根据各服务节点的评分值计算对应的命中概率的计算模型为：其中，qi为第i个服务器的命中概率，Wi为第i个服务节点的评分值，n为服务节点的总数，e为自然常数。优选的，步骤S5中，采用均匀分布模板生成均匀分布随机数作为投射值。一种基于动态概率模型的负载均衡装置，包括：第一信号接收模块，用于实时接收各服务节点的状态信息；命中区间划分模块，与第一信号接收模块连接，用于根据状态信息赋予各服务节点一个评分值，根据评分值计算各服务节点的命中概率，并用于根据命中概率在区间(0，1]上划分各服务节点的命中区间；第二信号接收模块，用于接收客户端发送的服务请求；服务节点匹配模块，分别连接命中区间划分模块和第二信号接收模块，用于在第二信号接收模块接收到服务请求时，对应所述服务请求随机生成一个(0，1]范围内的投射值，并用于获取所述投射值所在的命中区间对应的服务节点作为本次服务请求对的负载节点。优选的，各服务节点通过心跳机制向第一信号接收模块上传状态信息，状态信息由心跳包携带。优选的，第一信号接收模块用于接收各服务节点通过心跳机制上传的由心跳包携带的状态信息；优选的，命中区间划分模块用于根据状态信息赋予各服务节点一个评分值的计算模型为：Wi＝wc×C′i+wr×R′i+wp×Pi′，其中，wc为预设的连接数权重，wr为预设的响应时间权重，wp为预设的优先级权重，C′i、R′i和Pi′分别为Ci、Ri和Pi归一化值，Ci、Ri和Pi分别为第i个服务节点的连接数、响应时间和优先级，Wi为第i个服务节点的评分值；优选的，连接数和优先级的归一化模型如下：其中，Cmax为预定义的最大连接数，Pmax为预定义的最大权重；优选的，响应时间的归一化模型如下：其中，Rmax为预定义的最大响应时间，kscale为量化的时间间隔尺度，优选的，命中区间划分模块根据评分值计算各服务节点的命中概率的计算模型为：其中，qi为第i个服务器的命中概率，n为服务节点的总数，e为自然常数；优选的，命中区间划分模块用于根据命中概率在区间(0，1]上划分各服务节点的命中区间的计算模型为：其中，Ai为第i个服务节点的命中区间，n为服务节点总数。一种基于动态概率模型的负载均衡系统，包括如权利要求9所述的负载均衡装置，还包括多个与负载均衡装置有线连接或者无线连接的作为服务节点的服务器。本专利技术中，通过结合状态信息对各服务节点进行评分，使得最终获取的命中概率与各服务节点的优异性成正比，使得在进行负载节点的选择中，优异的服务节点更容易被选中。同时，根据投射值和命中区间选择负载服务器，由于投射值的生成具有随机性，使得优异性靠后的服务节点也有被命中的可能，使得次优节点也能得到有效利用。如此，本专利技术中，负载节点的选择不需要完全依赖服务器的瞬时状态，能有效避免瞬间峰值问题，使所有节点负载平滑。可见，本专利技术提出的一种基于动态概率模型的负载均衡方法，不需要完全依赖服务器的瞬时状态，并且能有效地利用次优节点的信息，能有效优化高并发下节点访问的峰值问题，避免硬判决，使各服务节点的负载变得均衡而平滑。附图说明图1为本专利技术提出的一种基于动态概率模型的负载均衡方法流程图；图2为本专利技术提出的一种基于动态概率模型的负载均衡系统示意图。具体实施方式参照图1，本专利技术提出的一种基于动态概率模型的负载均衡方法，包括以下步骤。S1、周期性获取所有服务节点的状态信息。具体的，本实施方式中，各服务节点通过心跳机制有心跳包携带其状态信息周期性上传更新。具体实施时，本步骤中获取的服务节点的状态信息包括：连接数、响应时间和优先级。S2、根据服务节点的状态信息对服务节点进行评分，获取与各服务节点对应的评分值。本实施方式中，评分值的计算方法根据获取的状态信息进行设置，最终获取的评分值应与对应的服务节点作为负载节点的优异性成正比。即，某个服务节点在作为服务请求的负载节点能使所有服务节点更加均衡平滑，则该服务节点对应的评分值更高。具体本文档来自技高网...
【技术保护点】
1.一种基于动态概率模型的负载均衡方法，其特征在于，包括以下步骤：S1、周期性获取所有服务节点的状态信息；S2、根据服务节点的状态信息对服务节点进行评分，获取与各服务节点对应的评分值；S3、根据各服务节点的评分值计算对应的命中概率；S4、根据命中概率将区间(0，1]划分为与各服务节点对应的命中区间；S5、根据服务请求，在区间(0，1]范围内生成均匀分布随机数作为服务请求对应的投射值；S6、获取投射值所在命中区间对应的服务节点作为本次服务请求的负载节点。
【技术特征摘要】
1.一种基于动态概率模型的负载均衡方法，其特征在于，包括以下步骤：S1、周期性获取所有服务节点的状态信息；S2、根据服务节点的状态信息对服务节点进行评分，获取与各服务节点对应的评分值；S3、根据各服务节点的评分值计算对应的命中概率；S4、根据命中概率将区间(0，1]划分为与各服务节点对应的命中区间；S5、根据服务请求，在区间(0，1]范围内生成均匀分布随机数作为服务请求对应的投射值；S6、获取投射值所在命中区间对应的服务节点作为本次服务请求的负载节点。2.如权利要求1所述的基于动态概率模型的负载均衡方法，其特征在于，步骤S1中，通过心跳机制周期性获取所有服务节点的状态信息，各服务节点的状态信息由所述服务节点上传的心跳包携带。3.如权利要求1所述的基于动态概率模型的负载均衡方法，其特征在于，步骤S2具体为：根据状态信息对服务节点进行筛选，对连接状态正常的服务节点的状态信息进行量化和归一化，并加权评分获取与各服务节点对应的评分值；优选的，步骤S1中获取的服务节点的状态信息包括：连接数、响应时间和优先级。4.如权利要求3所述的基于动态概率模型的负载均衡方法，其特征在于，步骤S2中，对连接数和优先级进行线性归一化处理，并对响应时间进行非线性归一化处理；优选的，步骤S2中，连接数和优先级的归一化模型如下：其中，Cmax为预定义的最大连接数，Pmax为预定义的最大权重；优选的，步骤S2中，响应时间的归一化模型如下：其中，Rmax为预定义的最大响应时间，kscale为量化的时间间隔尺度，优选的，步骤S2中对服务节点的评分模型为：Wi＝wc×C′i+wr×R′i+wp×P′i，其中，wc为预设的连接数权重，wr为预设的响应时间权重，wp为预设的优先级权重，C′i、R′i和P′i分别为Ci、Ri和Pi归一化值，Ci、Ri和Pi分别为第i个服务节点的连接数、响应时间和优先级，Wi为第i个服务节点的评分值。5.如权利要求1所述的基于动态概率模型的负载均衡方法，其特征在于，步骤S3中，根据各服务节点的评分值计算对应的命中概率的计算模型为：其中，qi为第i个服务器的命中概率，Wi为第i个服务节点的评分值，n为服务节点的总数，e为自然常数。6.如权利要求1至5任一项所述的基于动态概率模型的负载均衡方法，其特征在于，步骤S5...
【专利技术属性】
技术研发人员：廖奇，
申请(专利权)人：科讯嘉联信息技术有限公司，
类型：发明
国别省市：安徽,34
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。