基于多维度的负载均衡方法、装置及相关设备制造方法及图纸

技术编号:24205570 阅读:11 留言:0更新日期:2020-05-20 14:31
本发明专利技术公开了基于多维度的负载均衡方法、装置及相关设备,应用于网络通讯领域,一方面使得各个候选服务器的负载更为均衡,另一方面使得该待处理的数据请求可以及时得到处理。本发明专利技术提供的基于多维度的负载均衡方法包括:接收到待处理的数据请求时,从初始化的配置文件中查询与每个候选服务器对应预设的权重;统计每个候选服务器已建立的短连接数;计算每个候选服务器处理最近一次数据请求的响应时间;根据该权重、该短连接数及该响应时间从所述候选服务器中确定一目标服务器;将该待处理的数据请求发送至该目标服务器。

Load balancing method, device and related equipment based on multi dimension

【技术实现步骤摘要】
基于多维度的负载均衡方法、装置及相关设备
本申请涉及网络通讯
,尤其涉及基于多维度的负载均衡方法、装置、计算机设备及存储介质。
技术介绍
负载均衡策略是用于服务器集群之间分担流量压力的策略,传统的负载均衡策略包括客户端负载均衡算法和服务端负载均衡算法,无论是客户端负载均衡算法还是服务端负载均衡算法,在确定要访问的服务器时是基于比较单一的维度进行计算,例如基于轮询算法、基于权重的算法、基于Hash算法、基于连接数或者响应时间的算法等。现有的负载均衡策略不管是基于哪种算法确定的需要访问的服务器,在后续处理数据请求时经常出现一些问题,例如轮询算法、权重的算法或Hash算法都有可能将数据请求分配到已经宕机的服务器、或者健康状态不太好的服务器上,导致发送的数据请求无法快速的得到响应;再例如基于连接数或者响应时间的算法,不能很好的控制服务器的流量负载,会使得某个服务器在某一时段瞬时流量过高或者过低,数据请求不合理的分配使得服务器的负载均衡效果不明显。
技术实现思路
本专利技术实施例提供一种基于多维度的负载均衡方法、装置、计算机设备及存储介质,以解决现有技术对数据请求不合理的分配使得服务器的负载均衡效果不明显的问题。一种基于多维度的负载均衡方法,该方法包括:接收到待处理的数据请求时,从初始化的配置文件中查询与每个候选服务器对应预设的权重;统计每个候选服务器已建立的短连接数;计算每个候选服务器处理最近一次数据请求的响应时间;根据该权重、该短连接数及该响应时间从所述候选服务器中确定一目标服务器;将该待处理的数据请求发送至该目标服务器。一种基于多维度的负载均衡装置,该装置包括:查询模块,用于接收到待处理的数据请求时,从初始化的配置文件中查询与每个候选服务器对应预设的权重;统计模块,用于统计每个候选服务器已建立的短连接数;计算模块,用于计算每个候选服务器处理最近一次数据请求的响应时间;目标服务器确定模块,用于根据该权重、该短连接数及该响应时间从所述候选服务器中确定一目标服务器;发送模块,用于将该待处理的数据请求发送至该目标服务器。一种计算机设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述基于多维度的负载均衡方法的步骤。一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述基于多维度的负载均衡方法的步骤。本申请提供的基于多维度的负载均衡方法、装置、计算机设备及存储介质,通过查询每个候选服务器的权重、统计各个候选服务器已建立的短连接数、计算各个候选服务器处理最近一次数据请求的响应时间,并根据该权重、该短连接数及该响应时间确定目标服务器,然后将该待处理的请求数据发送至该目标服务器,使得最终确定的目标服务器是基于权重、短连接数及响应时间这三个维度确定的,使得最终确定的目标服务器在综合各方面考虑具有最佳的处理状态,一方面使得各个候选服务器的负载更为均衡,另一方面使得该待处理的数据请求可以及时得到处理。附图说明为了更清楚地说明本专利技术实施例的技术方案,下面将对本专利技术实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。图1是本专利技术一实施例中基于多维度的负载均衡方法的一应用环境示意图;图2是本专利技术一实施例中基于多维度的负载均衡方法的流程图;图3是本专利技术另一实施例中基于多维度的负载均衡方法的流程图;图4是本专利技术一实施例中统计每个候选服务器已建立的短连接数的一流程图;图5是本专利技术另一实施例中统计每个候选服务器已建立的短连接数的一流程图;图6是本专利技术一施例中计算每个候选服务器处理最近一次数据请求的响应时间的一流程图;图7是本专利技术一实施例中基于多维度的负载均衡装置的结构示意图;图8是本专利技术一实施例中计算机设备的一示意图。具体实施方式下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本专利技术一部分实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本专利技术保护的范围。本申请提供的基于多维度的负载均衡方法,可应用在如图1的应用环境中,其中,计算机设备通过网络与至少一个服务器进行通信。其中,计算机设备包括但不限于各种个人计算机、笔记本电脑、智能手机、平板电脑和便携式可穿戴设备。服务器可以用独立的服务器或者是多个服务器组成的服务器集群来实现。在一实施例中,如图2所示,提供一种基于多维度的负载均衡方法,以该方法应用在图1中的服务器为例进行说明,包括如下步骤S101至S105。S101、接收到待处理的数据请求时,从初始化的配置文件中查询与每个候选服务器对应预设的权重。在其中一个实施例中,所述待处理的数据请求可以是超文本传输协议(http)类型的数据请求。其中,与各个服务器对应预设的权重可以通过人为设定来确定,可以将硬件条件更好、处理能力更强的服务器的权重设置的更高一些,以使得处理能力强的服务器可以负载更多的数据访问量。S102、统计每个候选服务器已建立的短连接数。在本实施例中,统计每个候选服务器已建立的短连接数有两种方式可以实现:(1)、在本端创建与每个服务器对应的键值队列,将创建的键值队列保存在本地内存中,在各服务器上负载的短连接数有变化时,会向本端发送短连接数的更新消息,本端可根据该更新消息实时更新存储在本地内存中的键值队列,在需要统计每个候选服务器已建立的短连接数时,读取该键值队列中键值的个数即可。(2)、各个候选服务器上存储有该键值队列,各候选服务上负载的短连接数有变化时会实时更新该键值队列,在需要统计每个候选服务器已建立的短连接数时,本端向对应的候选服务器发送请求键值队列的消息并接收对应的候选服务器反馈的消息,解析反馈的消息中的键值的个数即可得到对应候选服务器已建立的短连接数。S103、计算每个候选服务器处理最近一次数据请求的响应时间。在其中一个实施例中,所述响应时间的确定可以在同一时刻单独发一个测试请求数据给每个所述候选服务器,根据接收所述候选服务器反馈的响应数据的时刻确定为所述响应时间,其效果在于使得各个服务器处理请求数据的时间、处理数据的内容均相同,排除了在不同时间下的环境因素对所述响应时间的影响,使得计算得到的对应服务器的响应时间十分准确。在其他实施例中,也可以根据最近一次向候选服务器发送的实际需要处理的请求数据测试对应候选服务器的响应时间,通过将最近一次向候选服务器发送的待处理的数据请求确定为测试数据,使得所述待处理的数据请求既可以作为实际处理的数据,又可以作为测试对应候选服本文档来自技高网...

【技术保护点】
1.一种基于多维度的负载均衡方法,其特征在于,所述方法包括:/n接收到待处理的数据请求时,从初始化的配置文件中查询与每个候选服务器对应预设的权重;/n统计每个候选服务器已建立的短连接数;/n计算每个候选服务器处理最近一次数据请求的响应时间;/n根据所述权重、所述短连接数及所述响应时间从所述候选服务器中确定一目标服务器;/n将所述待处理的数据请求发送至所述目标服务器。/n

【技术特征摘要】
1.一种基于多维度的负载均衡方法,其特征在于,所述方法包括:
接收到待处理的数据请求时,从初始化的配置文件中查询与每个候选服务器对应预设的权重;
统计每个候选服务器已建立的短连接数;
计算每个候选服务器处理最近一次数据请求的响应时间;
根据所述权重、所述短连接数及所述响应时间从所述候选服务器中确定一目标服务器;
将所述待处理的数据请求发送至所述目标服务器。


2.根据权利要求1所述的基于多维度的负载均衡方法,其特征在于,所述统计每个候选服务器已建立的短连接数的步骤包括:
创建与每个服务器对应的键值队列;
接收所述候选服务器下发的短连接的连接状态;
根据接收的所述连接状态实时更新对应的键值队列;
接收到待处理的数据请求时,获取所述键值队列中键值的个数并将获取的所述个数确定为所述短连接的个数。


3.根据权利要求1所述的基于多维度的负载均衡方法,其特征在于,所述统计每个候选服务器已建立的短连接数的步骤包括:
接收每个所述候选服务器发送的携带有键值队列数值信息的数据,所述键值队列数值信息为对应的候选服务器通过键值队列实时统计的短连接数的个数;
解析所述键值队列数值信息中键值的个数,将解析得到的所述键值的个数确定为对应服务器已建立的短连接的个数。


4.根据权利要求1所述的基于多维度的负载均衡方法,其特征在于,所述计算每个候选服务器处理最近一次数据请求的响应时间的步骤包括:
同时向每个所述候选服务器发送相同的测试请求数据,记录发送所述测试请求数据的发送时刻;
接收到所述候选服务器反馈的响应数据时,记录接收所述响应数据的接收时刻;
将所述接收时刻与所述发送时刻的差值确定为对应候选服务器的响应时间。


5.根据权利要求1所述的基于多维度的负载均衡方法,其特征在于,,所述计算每个候选服务器处理最近一次数据请求的响应时间的步骤包括:
获取最近一次向所述候选服务器发送待处理的请求数据的发送时刻及接收到响应数据的接收时刻;
将所述接收时刻与所述发送时刻的差值确定为对应候选服务器的响应时间。

【专利技术属性】
技术研发人员:林勇
申请(专利权)人:中国平安财产保险股份有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1