分布式端点的管理制造技术

提供了一种用于管理全球加速器系统中的部件的通信的系统和方法。所述全球加速器系统包括客户端装置，所述客户端装置经由公共网络与全球接入点通信以访问能够托管服务的各种端点。进而，全球接入点经由专用网络与组织到不同数据中心中的各种端点进行通信。为了促进代表不同客户端装置进行交换，所述全球接入点可将端点的分组表征为子群组或编织层。可封装单独编织层通信，并且通过联网设备使用包中的5元组信息将其路由到所述数据中心处。单独编织层内的部件可经由管理消息广播或多播状态信息，以确保故障转移或减少重复处理。以确保故障转移或减少重复处理。以确保故障转移或减少重复处理。

【技术实现步骤摘要】
【国外来华专利技术】分布式端点的管理

技术介绍

[0001]一般而言，计算装置利用通信网络或一系列通信网络来交换数据。公司和组织操作计算机网络，所述计算机网络将多个计算装置互连，以支持操作或向第三方提供服务。计算系统可位于单一地理位置中或位于多个不同的地理位置中(例如，经由专用或公共通信网络互连)。具体地说，数据中心或数据处理中心(本文通常称为“数据中心”)可包括多个互连的计算系统，以向数据中心的用户提供计算资源。数据中心可以是代表组织操作的专用数据中心或者代表公众或为公众利益操作的公共数据中心。
[0002]由于任何单独计算装置的资源都是有限的，因此已知有多种技术试图平衡装置之间的资源利用率。例如，“负载平衡器”装置可放置在请求使用计算资源的客户端装置与提供此类资源的服务器之间。负载平衡器可试图在服务器之间分布请求，因此允许服务器协同工作以提供此类资源。使用这种负载平衡器的一个显著缺点在于，它可能会产生单点故障，使得如果负载平衡器发生故障，则对服务器的请求失效，并且资源变得不可用。
[0003]本领域已知的另一种类型的负载平衡是域名系统(DNS)负载平衡。DNS通常指代一种装置网络，所述装置网络操作来将人类可识别的域名转换成网络(诸如互联网)上的网络地址。为了使用DNS进行负载平衡，DNS服务器填充有提供给定资源的多个计算装置的网络地址。当对解析与所述资源相关联的域名的请求做出响应时，DNS服务器使提供的那些地址交替出现，因此导致对资源的请求在所提供的地址之间进行划分。由于DNS服务器不充当资源流量的管道，并且由于DNS通常提供高度冗余的操作，因此DNS负载平衡通常避免出现单点故障。然而，DNS负载平衡的一个显著缺点是更改负载平衡方案所需的延迟。DNS请求通常流动通过一系列DNS解析器，解析器中的每个都可能将先前的DNS结果高速缓存达一定时段。因此，在DNS服务器处所做的试图更改在服务器之间平衡负载的方式的改变可能需要大量时间来传播。特别是在服务器已发生故障的情况下，这些延迟可能会导致网络通信中的显著错误。此外，维持最新的DNS记录可能很困难，因为它们通常必须随着新装置添加到负载平衡方案或从负载平衡方案移除而进行修改。
[0004]本领域已知的又一种类型的负载平衡是使用“任播”网络地址。在网络(诸如互联网)中，不同的自治系统(“AS”)向装置提供不同的网络地址。每个AS通过“公告”地址来通知其邻近的AS在其网络内可用的地址。最典型地，每个地址与单一位置(例如，单一装置或装置群组)相关联。在任播配置中，通常在多个AS中的多个装置公告相同的网络地址。根据相邻AS的配置，访问地址的客户端请求然后可路由到多个装置中的任何一个，从而在装置之间分布负载。使用任播来试图进行负载平衡的一个显著缺点在于到任播的地址的路由通常由相邻网络控制。这些网络通常处于其他实体的控制之下。因此，难以或不可能完全控制在具有任播的网络地址的装置之间分布请求的方式。此外，当相邻网络的配置改变时，请求的分布也可能改变，从而导致负载均衡方案的波动性。
附图说明
[0005]图1是描绘包括多个客户端装置和数据中心以及提供从一组全球网络地址到数据
中心的负载平衡访问的一组全球接入点的说明性逻辑网络的框图。
[0006]图2是描绘图1的数据中心的说明性配置的框图。
[0007]图3是描绘图1的全球接入点的说明性配置的框图。
[0008]图4是描绘在图1的全球接入点内实现一个或多个流管理器的流管理器服务器的说明性配置的框图。
[0009]图5描绘用于将来自客户端装置的定址到全球网络地址的请求路由到图1的全球接入点的说明性交互。
[0010]图6描绘用于至少部分地基于在数据中心之间对请求进行负载平衡来将请求从全球接入点路由到图1的数据中心的说明性交互。
[0011]图7描绘用于将端点信息从数据中心传播到图1的全球接入点以使得接入点可正确地路由来自客户端装置的定址到全球网络地址的流量的说明性交互。
[0012]图8描绘用于通过从图1的接入点选择要将不同全球网络地址公告到的不同相邻装置来增加全球网络地址的弹性的说明性例程。
[0013]图9描绘用于通过使用图1的接入点来路由定址到与由数据中心内的端点提供的服务相关联的全球网络地址的流量的说明性例程。
[0014]图10描绘用于在图1的全球接入点处更新关于提供网络可访问服务的数据中心的端点的信息的说明性例程。
[0015]图11描绘用于在图1的全球接入点处建立传输控制协议(TCP)会话并且将TCP会话切换到端点以使得客户端装置和端点能够经由TCP会话进行通信的说明性交互。
[0016]图12描绘用于在图1的全球接入点处建立传输控制协议(TCP)会话并且将TCP会话切换到端点以使得客户端装置和端点能够经由TCP会话进行通信的说明性例程。
具体实施方式
[0017]一般地描述，本公开的方面涉及使用一个或多个全球网络地址提供对跨多个地理位置散布的计算装置池的负载平衡访问。更具体地说，本公开的方面涉及提供可经由全球网络地址到达的一组分布式接入点，所述接入点至少部分地基于对请求进行负载平衡来选择请求并且将请求路由到池内的端点装置。在一个实施方案中，接入点利用任播路由技术来公告与计算装置池相关联的全球网络地址的可用性，从而吸引定址到那些地址的流量。在接收到访问池的请求时，接入点可基于促进将包分布到不同的端点分组(通常称为端点群组)的分布算法来选择池内的适当端点。接入点然后可充当代理，从而将请求路由到端点并且促进端点与请求装置之间的进一步通信。接入点可实现多种技术(如本文所公开的)，以提供对端点装置池的弹性高效访问。如本文所公开的，接入点可分布在广泛的地理区域之间，因此消除了系统内的单点故障。此外，通过利用任播公告，即使当请求被定址到单一网络地址时，接入点也可在池之中分布请求，从而避免与其他技术(诸如基于DNS的负载平衡)相关联的复杂性和延迟。通过充当客户端与装置池之间的代理，而不是直接提供资源，接入点可独立于外部装置选择将请求路由到任播的地址的方式来控制对池的请求的分布，由此避免与传统的任播联网相关联的损害。因此，本文所公开的实施方案显著改进现有负载平衡技术。
[0018]本公开的实施方案可说明性地在广阔的地理区域中实现。在一个实施方案中，本
公开在全球互联网上实现，并且提供全球互联网协议(IP)地址，诸如IP版本4(IPv4)或IP版本6(IPv6)地址。不同的数据中心可能存在于不同的地理位置，并且每个数据中心可包括提供对基于网络的服务的访问的一个或多个端点装置。此类服务的实例包括但不限于网页托管、数据存储、按需计算服务等。每个数据中心处的资源可能是有限的，并且因此基于网络的服务的运营商可能希望在此类服务之间分布负载。为了简化基于网络的服务的操作(例如，避免与基于DNS的负载平衡相关的复杂性)，可能希望向运营商提供单组相对静态的服务网络地址，所述网络地址可独立于提供对服务的访问的单独端点进行管理。此类网络地址在本文通常称为“全球”网络地址。本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种系统，其包括：多个端点，每个端点位于不同地理位置中并且包含至少一个服务器计算装置，所述至少一个服务器计算装置被配置来提供与网络地址相关联的网络可访问服务；多个全球接入点，所述多个全球接入点与所述网络可访问服务相关联，其中所述多个全球接入点中的单独全球接入点包括处理器，与不同地理位置相关联，并且被配置来：从客户端装置接收定址到所述网络地址的网络包；基于分布算法的实现方式来选择包括多个端点的数据中心；基于选择算法的实现方式来从所述多个端点选择要将所述网络包路由到的端点；并且经由封装的通信将所接收的包路由到所选择的端点。2.如权利要求1所述的系统，其中所述单独全球接入点被配置来利用任播方法来公告所述网络地址的如能够经由所述接入点到达的网络前缀。3.如权利要求1所述的系统，其中所述单独全球接入点被配置来基于对应于网络和地理标准与分布标准的乘积的分布算法的实现方式来选择包括多个端点的数据中心。4.如权利要求1所述的系统，其中所述多个端点被分配到共享公共封装的隧道的子群组中，并且其中所述子群组中的所述端点中的每个端点被配置来将通信消息传输到其他子群组以用于转发客户端包或提供分段信息中的至少一者。5.如权利要求1所述的系统，其中所述单独全球接入点被配置来基于对应于一致性哈希算法的选择算法的实现方式来从包括在所选择的数据中心中的所述多个端点选择要将所述网络包路由到的端点。6.如权利要求1所述的系统，其中分布标准对应于一定百分比的网络流量到区的完全分配。7.如权利要求1所述的系统，其中一致性哈希算法对应于加权会合哈希算法或加权一致性哈希算法中的一者。8.如权利要求1所述的系统，其中封装隧道对应于虚拟局域网。9.如权利要求1所述的系统，其中所述多个端点包括用于使用五元组通信来处理子群组消息的网络部件。10.如权利要求1所述的系统，其中通信信息消息包括路径最大传输大小单元发现包。11.如权利要求1所述的系统，其中所述单独全球接入点被配置来：建立第一TCP会话以建立至少一个接入点与客户端装置之间的第一TCP会话的上下...

【专利技术属性】
技术研发人员：娜琳，
申请(专利权)人：亚马逊技术有限公司，
类型：发明
国别省市：