网络负载均衡方法、装置及集群服务系统制造方法及图纸

公开了一种网络负载均衡方法、装置及集群服务系统。在有待下发的任务请求时，获取集群服务系统中可用的节点的健康度信息；计算节点的下发概率和健康度等级；选择发送任务请求的第一目标节点和第二目标节点，第一目标节点为正常健康等级的节点，第二目标节点为不健康等级的节点；分别向第一目标节点和第二目标节点发送任务请求；接收并采纳第一目标节点反馈的任务请求的处理结果，并分别接收第一目标节点和第二目标节点在反馈任务请求的处理结果时发送的实时健康度参数，并根据实时健康度参数分别计算并存储相应目标节点的健康度信息。这样，当出现个别节点异常时也能避免引起网络系统处理效率低下，以及从而避免出现节点宕机。

【技术实现步骤摘要】
网络负载均衡方法、装置及集群服务系统本专利技术专利申请是申请号为201510075547.2，申请日为2015年2月12日，专利技术名称为“网络负载均衡方法、装置及集群服务系统”的中国专利技术专利申请的分案申请。
本专利技术涉及互联网
，特别是涉及网络负载均衡方法、装置及集群服务系统。
技术介绍
在互联网中，用户的网络请求是由集群服务系统(简称集群)执行的。随着网络技术的迅猛发展，用户通过网络获取信息的需求不断增多，集群的负载也不断增加。为了使集群内多个服务节点(简称searcher节点或节点)之间实现合理的任务分配以提高系统的处理效率，在互联网中引入了负载均衡技术。负载均衡技术一方面把大量的并发任务请求或数据流量分担到多个节点上分别处理，减少流量拥塞，另一方面将单个任务请求分担到多个节点上做并行处理，提高系统的响应速度。传统的网络负载均衡技术主要采用轮询调度算法和Hashing(哈希)算法。轮询调度算法每一次把来自用户的任务请求轮流分配给集群中的节点。Hashing算法则根据任务请求的源地址及目标IP地址，计算出对应的Hash值，并将任务请求分配给与该Hash值对应的节点。轮询调度算法和Hashing算法不关心每个节点的当前负载数和节点的处理能力，而是假设所有节点的处理能力都相同，其本质是将任务较为平均的分配到各节点中的负载均衡算法。然而，当集群中的某个节点出现异常，例如该节点的I/O异常，或者由于网络暂时波动造成该节点负载过高时，从上层节点发过来的任务的处理能力就会降低。但是现有的负载均衡算法并没有对该节点做特别处理，而是依然会往该节点发送新的任务请求，这就导致该节点的任务队列增长迅速，如果该节点不能快速处理掉这些队列里面的任务，就会造成后续的任务请求都会超时，从而引起网络系统处理效率底下，甚至可能有节点宕机的风险。
技术实现思路
本专利技术实施例提供了网络负载均衡方法、装置及集群服务系统，以解决现有技术中的网络负载均衡方法当出现个别节点异常时容易引起网络系统处理效率低下，以及容易出现节点宕机风险的问题。为了解决上述技术问题，本专利技术实施例公开了如下技术方案：一方面，提供了一种网络负载均衡方法，所述方法包括：在有待下发的任务请求时，获取预先存储的集群服务系统中可用的节点的健康度信息；根据所述节点的健康度信息计算所述节点的下发概率和健康度等级，根据所述下发概率和所述健康度等级选择发送任务请求的第一目标节点和第二目标节点；所述第一目标节点为根据所述健康度等级选择的正常健康等级的节点，所述第二目标节点为根据所述健康度等级选择的不健康等级的节点；分别向所述第一目标节点和第二目标节点发送所述任务请求；接收并采纳所述第一目标节点反馈的所述任务请求的处理结果，并分别接收所述第一目标节点和第二目标节点在反馈所述任务请求的处理结果时发送的实时健康度参数，并根据所述实时健康度参数分别计算并存储相应目标节点的健康度信息。可选的，所述方法还包括：根据预定周期内集群服务系统中各个节点返回的心跳信息设置各个节点的屏蔽状态，其中，所述可用的节点指屏蔽状态为未被屏蔽的节点。可选的，所述健康度等级包括以下至少一项：不可服务、可以抛弃、正常服务、负载很低。可选的，所述目标节点的实时健康度参数包括：所述任务请求在所述目标节点的任务队列中的队列延时tqueue，和/或所述目标节点处理所述任务请求的延时tprocess，和/或所述任务请求到达所述目标节点的网络延时tnet，和/或所述目标节点的I/O等待延时tio/wait。可选的，根据所述实时健康度参数分别计算并存储相应目标节点的健康度信息，包括：根据所述第一目标节点的实时健康度参数加权计算得到所述第一目标节点的实时健康度信息；根据所述第二目标节点的实时健康度参数加权计算得到所述第二目标节点的实时健康度信息。可选的，所述根据所述目标节点的实时健康度参数加权计算得到所述目标节点的实时健康度信息采用如下公式：其中，H为目标节点的实时健康度信息，T(x)和TH(x)为预设归一化函数，α,β,χ,δ为取值为0到1之间的预设加权系数。可选的，根据所述节点的健康度信息计算所述节点的下发概率采用如下公式：其中，Pi为节点i的下发概率，W为可用节点的数量，为根据所述节点i的实时健康度在预设周期T内计算得到的所述节点i的平均健康度。可选的，以预设时间T为周期，计算在所述周期内返回任务请求的处理结果的节点i的平均健康度包括：根据存储的所述节点i的实时健康度确定对应的实时健康度等级；根据所述实时健康度等级确定对应的实时加权系数；以预设时间T为加权周期，根据所述实时加权系数对所述节点i的实时健康度进行加权，得到所述节点在T内的平均健康度另一方面，提供了一种网络负载均衡装置，所述装置包括：获取单元，用于在有待下发的任务请求时，获取预先存储的集群服务系统中可用的节点的健康度信息；第一计算单元，用于根据所述节点的健康度信息计算所述节点的下发概率和健康度等级；选择单元，用于根据所述下发概率和健康度等级选择发送任务请求的第一目标节点和第二目标节点，所述第一目标节点为根据所述健康度等级选择的正常健康等级的节点，所述第二目标节点为根据所述健康度等级选择的不健康等级的节点；发送单元，用于分别向所述第一目标节点和第二目标节点发送所述任务请求；接收单元，用于接收并采纳所述第一目标节点反馈的所述任务请求的处理结果，并分别接收所述第一目标节点和第二目标节点在反馈所述任务请求的处理结果时发送的实时健康度参数，并根据所述实时健康度参数分别计算并存储相应目标节点的健康度信息。可选的，所述目标节点的实时健康度参数包括：所述任务请求在所述目标节点的任务队列中的队列延时tqueue，和/或所述目标节点处理所述任务请求的延时tprocess，和/或所述任务请求到达所述目标节点的网络延时tnet，和/或所述目标节点的I/O等待延时tio/wait。可选的，所述接收单元包括：第一计算子单元，用于根据所述第一目标节点的实时健康度参数加权计算得到所述第一目标节点的实时健康度信息，及根据所述第二目标节点的实时健康度参数加权计算得到所述第二目标节点的实时健康度信息。可选的，所述第一计算子单元用于根据如下公式计算所述目标节点的实时健康度信息：其中，H为目标节点的实时健康度信息，T(x)和TH(x)为预设归一化函数，α,β,χ,δ为取值为0到1之间的预设加权系数。可选的，所述第一计算单元用于根据如下公式计算所述节点i的下发概率Pi：其中，W为可用节点的数量，为根据所述节点i的实时健康度在预设周期T内计算得到的所述节点i的平均健康度。可选的，所述装置还包括：第二计算单元，用于以预设时间T为周期，计算在所述周期内返回任务请求的处理结果的节点i的平均健康度所述计算单元包括：第二确定子单元，用于根据存储的所述节点i的实时健康度确定对应的实时健康度等级；第三确定子单元，用于根据所述实时健康度等级确定对应的实时加权系数；第二计算子单元，用于以预设时间T为加权周期，根据所述实时加权系数对所述节点i的实时健康度进行加权，得到所述节点在T内的平均健康度另一方面，提供了一种集群服务系统，包括网络负载均衡装置和服务节点，所述网络负载均衡装置用于在有待下发的任务请求时，获取预先存储的集群服务系本文档来自技高网...

【技术保护点】
1.一种网络负载均衡方法，其特征在于，所述方法包括：在有待下发的任务请求时，获取预先存储的集群服务系统中可用的节点的健康度信息；根据所述节点的健康度信息计算所述节点的下发概率和健康度等级；根据所述下发概率和所述健康度等级选择发送任务请求的第一目标节点和第二目标节点，所述第一目标节点为根据所述健康度等级选择的正常健康等级的节点，所述第二目标节点为根据所述健康度等级选择的不健康等级的节点；分别向所述第一目标节点和第二目标节点发送所述任务请求；接收并采纳所述第一目标节点反馈的所述任务请求的处理结果，并分别接收所述第一目标节点和第二目标节点在反馈所述任务请求的处理结果时发送的实时健康度参数，并根据所述实时健康度参数分别计算并存储相应目标节点的健康度信息。

【技术特征摘要】
1.一种网络负载均衡方法，其特征在于，所述方法包括：在有待下发的任务请求时，获取预先存储的集群服务系统中可用的节点的健康度信息；根据所述节点的健康度信息计算所述节点的下发概率和健康度等级；根据所述下发概率和所述健康度等级选择发送任务请求的第一目标节点和第二目标节点，所述第一目标节点为根据所述健康度等级选择的正常健康等级的节点，所述第二目标节点为根据所述健康度等级选择的不健康等级的节点；分别向所述第一目标节点和第二目标节点发送所述任务请求；接收并采纳所述第一目标节点反馈的所述任务请求的处理结果，并分别接收所述第一目标节点和第二目标节点在反馈所述任务请求的处理结果时发送的实时健康度参数，并根据所述实时健康度参数分别计算并存储相应目标节点的健康度信息。2.根据权利要求1所述的方法，其特征在于，所述方法还包括：根据预定周期内集群服务系统中各个节点返回的心跳信息设置各个节点的屏蔽状态，其中，所述可用的节点指屏蔽状态为未被屏蔽的节点。3.根据权利要求1所述的方法，其特征在于，所述健康度等级包括以下至少一项：不可服务、可以抛弃、正常服务、负载很低。4.根据权利要求1所述的方法，其特征在于，所述目标节点的实时健康度参数包括：所述任务请求在所述目标节点的任务队列中的队列延时tqueue，和/或所述目标节点处理所述任务请求的延时tprocess，和/或所述任务请求到达所述目标节点的网络延时tnet，和/或所述目标节点的I/O等待延时tio/wait。5.根据权利要求1所述的方法，其特征在于，根据所述实时健康度参数分别计算并存储相应目标节点的健康度信息，包括：根据所述第一目标节点的实时健康度参数加权计算得到所述第一目标节点的实时健康度信息；根据所述第二目标节点的实时健康度参数加权计算得到所述第二目标节点的实时健康度信息。6.根据权利要求5所述的方法，其特征在于，所述根据所述目标节点的实时健康度参数加权计算得到所述目标节点的实时健康度信息采用如下公式：其中，H为目标节点的实时健康度信息，T(x)和TH(x)为预设归一化函数，α,β,χ,δ为取值为0到1之间的预设加权系数。7.根据权利要求1至6中任意一项所述的方法，其特征在于，根据所述节点的健康度信息计算所述节点的下发概率采用如下公式：其中，Pi为节点i的下发概率，W为可用节点的数量，为根据所述节点i的实时健康度在预设周期T内计算得到的所述节点i的平均健康度。8.根据权利要求7所述的方法，其特征在于，还包括：以预设时间T为周期，计算在所述周期内返回任务请求的处理结果的节点i的平均健康度包括：根据存储的所述节点i的实时健康度确定对应的实时健康度等级；根据所述实时健康度等级确定对应的实时加权系数；以预设时间T为加权周期，根据所述实时加权系数对所述节点i的实时健康度进行加权，得到所述节点在T内的平均健康度9.一种网络负载均衡装置，其特征在于，所述装置包括：获取单元，用于在有待下发的任务请求时，获取预先存储的集群服务系统中可用的节点的健康度信息；第一计算单元，用于根据所述节点的健康度信息计算所述节点的下发概率和健康度等级；选择单元，用于根据所述下发概率和所述健康度等级选择发送任务请...

【专利技术属性】
技术研发人员：代俊，
申请(专利权)人：广州神马移动信息科技有限公司，
类型：发明
国别省市：广东,44