一种基于时延的具有流控功能的负载均衡方法技术

本发明专利技术涉及后端服务器开发技术领域，具体为一种基于时延的具有流控功能的负载均衡方法，包括以下步骤：负载均衡模块接受集群节点注册；负载均衡模块收到业务请求；解出原始请求；根据探测包发送时间戳以及当前系统时间，计算请求往返时延；计算请求往返时延，将该时延同流控信息中记录的空闲状态时延进行比较；有益效果为：本发明专利技术提出的基于时延的具有流控功能的负载均衡方法，通过时延探测，对拥塞产生的检测更加敏感，在拥塞开始时就能检测到拥塞的发生；根据集群节点拥塞情况估计，动态调整请求发送速率，保证了后端节点可以工作在最大吞吐量附近，并且保证处理的低时延。并且保证处理的低时延。并且保证处理的低时延。

【技术实现步骤摘要】
一种基于时延的具有流控功能的负载均衡方法


[0001]本专利技术涉及后端服务器开发
，具体为一种基于时延的具有流控功能的负载均衡方法。

技术介绍

[0002]随着互联网信息技术的飞速发展，AI、云计算、大数据、物联网与各行各业深度融合，各行各业加快数字化转型，作为承载越来越多业务的线上系统，需要处理海量的业务请求，并且需要提供不间断的稳定服务。
[0003]现有技术中，任何高性能的单物理服务器无法胜任日益增长的海量的业务处理场景，所以通常服务设计为集群形式，由任意多个部署在不同物理节点上的后台服务共同分担处理任务，提供横向的弹性扩展能力，以应对越来越多的业务处理。为了协调集群中各工作节点的负载，产生了多种负载均衡策略。常见的负载均衡策略有轮询、加权轮询、随机、最少连接、以及针对session黏滞的源地址散列等。
[0004]但是，这些负载均衡策略有的基于集群节点处理能力对等的假设，有的根据服务器硬件资源等指标对不同集群节点处理能力进行预先估算，进行负载分配。

技术实现思路

[0005]本专利技术的目的在于提本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于时延的具有流控功能的负载均衡方法，其特征在于：所述负载均衡方法包括以下步骤：负载均衡模块接受集群节点注册；负载均衡模块收到业务请求；解出原始请求；根据探测包发送时间戳以及当前系统时间，计算请求往返时延；计算请求往返时延，将该时延同流控信息中记录的空闲状态时延进行比较。2.根据权利要求1所述的一种基于时延的具有流控功能的负载均衡方法，其特征在于：负载均衡模块接受集群节点注册后，节点进入空闲状态。3.根据权利要求1所述的一种基于时延的具有流控功能的负载均衡方法，其特征在于：负载均衡模块收到业务请求后，假如有处于空闲状态的集群节点，节点进入时延探测状态，把请求封装为探测包转发到节点。4.根据权利要求1所述的一种基于时延的具有流控功能的负载均衡方法，其特征在于：集群节点收到探测包后，解出原始请求，并处理原始请求，同时记录原始请求处理时长；当集群节点处理完原始请求后，向负载均衡模块发送探测包ack消息。5.根据权利要求1所述的一种基于时延的具有流控功能的负载均衡方法，其特征在于：负载均衡模块收到探测包ack后，假如节点处于探测状态，根据探测包发送时间戳以及当前系统时间，计算请求往返时延，作为服务...

【专利技术属性】
技术研发人员：李建伟，杨凯，田昌英，魏金雷，张敏，
申请(专利权)人：浪潮云信息技术股份公司，
类型：发明
国别省市：