【技术实现步骤摘要】
【国外来华专利技术】用于分布负载平衡的方法和分布负载平衡器系统
本公开涉及用于分布负载平衡的方法和分布负载平衡器系统。
技术介绍
常规负载平衡器通常为单一、专门盒,其包括多个网络接口控制器(NIC),例如八个NIC,其中NIC中的一些操控来自客户端的进入流量/到客户端的外出流量而其他NIC操控来自正在负载平衡的主机装置(例如,服务器如网络服务器)的传出流量/到主机装置的传入流量。这些常规负载平衡器上的带宽或通量通常在客户端侧上为40吉比特/秒(Gbps)而在服务器侧上为40Gbps的范围。随着基于网络的应用和基于网络的服务如云计算服务的规模和范围增加,数据中心可容纳数百或甚至数千个需要负载平衡的主机装置(例如,网络服务器)。常规负载平衡器在这类环境中可能不会较好地调整。此外,常规负载平衡器通常使用应用于从主机装置收集的数据以选择哪一个主机装置将操控连接的技术例如最大连接(或maxconns)、循环和/或最小连接(leastconns)。另外,常规负载平衡器通常充当其在前面的主机装置的代理,且因而终止来自客户端的连接(例如,传输控制协议(TCP)连接)并且在主机装置与负载平衡器之间建立的TCP连接上将客户端流量发送至主机装置。因此,在使用这些常规负载平衡器时,主机装置和客户端不在直接TCP连接上通信。
技术实现思路
本专利技术的实施例提供了一种分布负载平衡器系统。该系统包括:多个负载平衡器节点;和多个服务器节点,每一个服务器节点包括服务器和负载平衡器模块;其中所述多个负载平衡器节点被配置来在所述多个服务器节点中分布来自一个或多个客户端的封包流,其中,为在所述多个服务器节点中分布所述 ...
【技术保护点】
一种分布负载平衡器系统,其包括:多个负载平衡器节点;和多个服务器节点,其每一个包括服务器和负载平衡器模块;其中所述多个负载平衡器节点被配置来在所述多个服务器节点中分布来自一个或多个客户端的封包流,其中,为在所述多个服务器节点中分布所述封包流,所述多个负载平衡器节点被配置来:从所述多个服务器节点中选择服务器节点来接收针对来自所述客户端的所述封包流的连接请求;并且将所述连接请求发送至所述所选择的服务器节点;其中每一个服务器节点上的所述负载平衡器模块被配置来:接收针对来自所述多个负载平衡器节点中的一个的封包流的连接请求;确定所述连接是否将通过所述服务器节点上的所述服务器接受;如果所述服务器无法接受所述连接,那么拒绝所述连接请求;并且如果所述服务器可接受所述连接,那么与所述多个负载平衡器节点配合来在所述相应客户端与所述相应服务器之间建立用于所述封包流的连接。
【技术特征摘要】
【国外来华专利技术】2013.04.16 US 13/864,1671.一种分布负载平衡器系统,包括:多个负载平衡器节点;和多个服务器节点,每一个服务器节点包括服务器和负载平衡器模块;其中所述多个负载平衡器节点被配置来在所述多个服务器节点中分布来自一个或多个客户端的封包流,其中,为在所述多个服务器节点中分布所述封包流,所述多个负载平衡器节点被配置来:从所述多个服务器节点中选择服务器节点来接收针对来自所述客户端的所述封包流的连接请求;并且将所述连接请求发送至所述所选择的服务器节点;其中每一个服务器节点上的所述负载平衡器模块被配置来:接收针对来自所述多个负载平衡器节点中的一个的封包流的连接请求;确定所述连接是否将被所述服务器节点上的所述服务器接受;如果所述服务器无法接受所述连接,那么拒绝所述连接请求;如果所述服务器能接受所述连接,那么与所述多个负载平衡器节点配合来在相应客户端与相应服务器之间建立用于所述封包流的连接;选择所述多个负载平衡器节点中的另一个担当接收用于连接的传出流量的外出服务器,其中所述选择至少部分地基于所述客户端和所述服务器之间的所述封包流的识别符;并且拦截所述连接上的传出IP封包,对所述传出IP封包进行封装,并把所述IP封包发送到所选择的外出服务器。2.如权利要求1所述的分布负载平衡器系统,还包括路由器,其被配置来根据哈希多路径路由技术在所述多个负载平衡器节点中分布来自所述一个或多个客户端的所述封包流。3.如权利要求1所述的分布负载平衡器系统,其中,为确定所述连接是否将被所述服务器节点上的所述服务器接受,所述负载平衡器模块被配置来分析所述服务器节点上的所述服务器的一个或多个当前资源使用量度,以确定所述服务器是否可接受所述连接,其中所述一个或多个当前资源使用量度包括下列各项中的一个或多个:CPU使用率、带宽消耗、服务器延时和所建立连接的数目。4.如权利要求1所述的分布负载平衡器系统,其中所述多个负载平衡器节点还被配置来从所述多个服务器节点中选择另一个服务器节点来接收所拒绝的连接请求,并且将所述连接请求发送至所述另一个服务器节点。5.如权利要求1所述的分布负载平衡器系统,其中客户端与服务器之间建立的每一个连接起始于所述客户端,通过所述多个负载平衡器节点中的一个或多个,并且通过所述服务器终止。6.一种用于分布负载平衡的方法,包括:通过多个负载平衡器节点中的一个或多个执行:接收客户端的封包流中的封包;和将针对所述封包流的连接请求发送至选自多个服务器节点中的服务器节点;通过所选择的服务器节点执行:确定所述服务器节点上的服务器是否能接受所述连接;在确定所述服务器不能接受所述连接之后拒绝所述连接请求;在确定所述服务器能接受所述连接之后接受所述连接请求,其中所述接受所述连接请求包括所选择的服务器节点与所述一个或多个负载平衡器节点配合来在相应客户端与相应服务器之间建立用于所述封包流的连接;选择所述多个负载平衡器节点中...
【专利技术属性】
技术研发人员:J·C·索伦森三世,D·S·劳伦斯,V·斯里尼瓦森,A·S·瓦佳,张帆,
申请(专利权)人:亚马逊科技公司,
类型:发明
国别省市:美国;US
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。