放置由网络流量触发的容器工作负载以在网络边缘设备处进行高效计算制造技术

在一个实施例中，一种方法包括：响应于接收到与发起客户端

【技术实现步骤摘要】
【国外来华专利技术】放置由网络流量触发的容器工作负载以在网络边缘设备处进行高效计算
[0001]本申请作为PCT国际专利申请在2019年9月23日提交，并要求享有在2018年10月4日提交的序列号为16/152,267的美国非临时专利申请的优先权权益，其全部公开内容通过引用而被整体合并。


[0002]本公开的一个
是计算机网络中的虚拟化容器的配置。另一个
是网络互连设备的管理。又一个
是虚拟计算系统中的工作负载管理。

技术介绍

[0003]本节中描述的方法是可以采用的方法，但不一定是先前已经设想或采用的方法。因此，除非另有说明，否则不应仅由于将本节中描述的任何方法包括在本节中而认为这些方法有资格作为现有技术。
[0004]可以使用大量的网络互连设备和计算实例来部署虚拟计算系统、云计算服务和云网络。因此，正在为特定最终用户执行应用程序的计算机可能在物理上或逻辑上相对于该最终用户的计算机位于遥远的位置，从而导致机器响应的明显时延。网络架构师的典型目标是将应用程序定位在离最终用户最近的网络设备处，诸如物理上或逻辑上位于网络边缘的计算设备中。每个边缘节点可包括多个计算设备的站点或群集，并且所有边缘节点可被联合，但是由于所有应用或服务中的高需求，边缘节点中的可用CPU资源可能是稀缺的。因此，在边缘计算上下文中放置执行工作负载仅当有用户机器利用它们时才应当尽可能靠近用户机器放置。在确定微服务的放置时也出现相同的问题。

技术实现思路

[0005]所附权利要求可以用作本专利技术的
技术实现思路
。
附图说明
[0006]在附图中：
[0007]图1示出了可以在其中实现一实施例的示例联网的分布式计算机系统。
[0008]图2示出了一个实施例中的图1的元件之间的示例数据处理流程。
[0009]图3示出了可以被编程为实现一实施例的示例处理流程。
[0010]图4A示出了涉及使用Kubernetes容器虚拟化的TCP会话的实现示例。
[0011]图4B示出了服务网格架构中的涉及HTTP请求的实现示例。
[0012]图5示出了一个实施例中的可以利用其实现一些元件的计算机系统。
具体实施方式
[0013]在以下描述中，出于说明的目的，阐述了许多具体细节以便提供对本专利技术的透彻
理解。然而，将显而易见的是，可以在没有这些具体细节的情况下实践本专利技术。在其他情况下，以框图形式示出了公知的结构和设备，以避免不必要地使本专利技术模糊。根据以下概述在各节中描述了实施例：
[0014]1.总体概述
[0015]2.结构和功能概述
[0016]3.实施示例—硬件概述
[0017]4.各种实施例的益处
[0018]1.总体概述
[0019]在独立权利要求中陈述了本专利技术的各方面，并在从属权利要求中陈述了优选特征。一方面的特征可以单独应用于每个方面，或与其他方面结合地应用于每个方面。
[0020]在一个实施例中，使用编程的计算设备来解决在
技术介绍
中概述的一个或多个技术问题，这些计算设备被布置和配置为按如下进行操作。应用作者为指定种类的客户端请求指定与工作负载执行的期望位置有关的策略。客户端发送分组，该分组发起适合于映射到工作负载的会话或任务，并且在被配置为将该分组转发到工作负载编排器的第一网络元件处接收该分组。响应于接收到该分组，工作负载编排器选择被定位为尽可能靠近在策略中指定的位置的计算设备或其他网络元件来运行工作负载。选定的网络元件可能通过发信号通知工作负载编排系统在本地启动工作负载来启动工作负载以消耗会话。此后，第一网络元件将会话的所有流量转发到计算设备处的工作负载。在一个实施例中，网络元件可以在等待工作负载变得可用的同时存储和转发会话流量。
[0021]在一个实施例中，可以响应于一个或多个预定义条件或条件的组合而终止工作负载。例如，可以在工作负载的一个或多个会话结束之后终止工作负载，或者在工作负载启动后的设定时段之后终止工作负载，或者在空闲时间的设定时段之后终止工作负载。每个工作负载终止可以由工作负载本身发起，从而导致自终止，或者由工作负载编排器发起。
[0022]在一个实施例中，一种方法包括：响应于接收到与发起客户端
‑
服务器会话相关联的分组，向工作负载编排器发送工作负载请求；工作负载编排器从网络边缘计算节点中的多个可用的地理上或逻辑上分布的服务器中选择选定服务器，以处理该客户端
‑
服务器会话；工作负载编排器向选定服务器发送请求以创建工作负载来处理该客户端
‑
服务器会话；从工作负载编排器接收标识选定服务器的数据；将与同一客户端
‑
服务器会话相关联的一个或多个其他分组转发到选定服务器；其中，该方法由一个或多个计算设备执行。
[0023]在另一个实施例中，一种在网络边缘计算节点的网络基础设施元件中执行的方法包括：响应于接收到与发起客户端
‑
服务器会话相关联的分组，从多个网络边缘计算节点中的多个可用的地理上或逻辑上分布的服务器中选择选定服务器，以处理该客户端
‑
服务器会话；向选定服务器发送请求以创建工作负载来处理该客户端
‑
服务器会话；将与同一客户端
‑
服务器会话相关联的一个或多个其他分组转发到选定服务器；其中，该方法由一个或多个计算设备执行。
[0024]各种实施例可以基于客户端网络会话使用不同的技术来发起工作负载。在一种称为严格触发的方法中，客户端网络会话可以直接触发工作负载网络的本地创建；尽管该方法预计提供较低的时延，但是其可能是效率更低的，因为工作负载网络可能是稀少使用的。在称为惰性触发的另一种方法中，客户端网络会话可以级联的方式触发工作负载网络的本
地创建。例如，第一工作负载可以向第二工作负载发送会话发起分组，从而导致第二工作负载被产生。该方法预计产生更高的时延，但将是效率更高的，因为仅根据需要产生网络中的工作负载。利用这些技术，使检测会话并在边缘网络设备处产生工作负载的网络元件本地化允许客户端会话以高度分布式、可伸缩且高效的方式指示在何处和何时放置工作负载。
[0025]还描述了用于实现本文描述的方法的系统和装置，包括用于实现这些方法的网络节点、计算机程序、计算机程序产品、计算机可读介质以及在有形介质上编码的逻辑。
[0026]2.结构和功能概述
[0027]2.1具有边缘计算节点的分布式网络
[0028]图1示出了可以在其中实现一实施例的示例联网的分布式计算机系统。出于示出清楚示例的目的，图1示出了有限数量的功能元件，但是实际实施例可以使用任意数量的此类元件。
[0029]在图1的示例中，网络云100包括在逻辑上和/或地理上分布在全云各处的多个计算节点102、104、106、108、110、112，包括在逻辑上和/或物理上靠近客户端计算设备120的一些计算节点以及遥远或远程的其他计算节点。计算节点102、1本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种方法，包括：响应于接收到与发起客户端
‑
服务器会话相关联的分组，向工作负载编排器发送工作负载请求；所述工作负载编排器从网络边缘计算节点中的多个可用的地理上或逻辑上分布的服务器中选择选定服务器，以处理所述客户端
‑
服务器会话；所述工作负载编排器向所述选定服务器发送请求以创建工作负载来处理所述客户端
‑
服务器会话；从所述工作负载编排器接收标识所述选定服务器的数据；将与同一客户端
‑
服务器会话相关联的一个或多个其他分组转发到所述选定服务器；其中，所述方法由一个或多个计算设备执行。2.如权利要求1所述的方法，还包括：执行以下操作之一：接收与完成同一客户端
‑
服务器会话相关联的分组，确定在向所述选定服务器发送创建工作负载的请求之后已经经过了指定的时间，或者确定在向所述选定服务器发送创建工作负载的请求之后已经经过了指定的空闲时间段，并且在该空闲时间段期间所述选定服务器处于空闲状态；以及，响应于此，向所述工作负载编排器发送工作负载终止请求，并且所述工作负载编排器指示所述选定服务器终止。3.如权利要求1或2所述的方法，还包括：所述工作负载编排器从多个可用的地理上或逻辑上分布的服务器中选择选定服务器，以通过选择在逻辑上离如下客户端计算设备最近的特定服务器来处理所述客户端
‑
服务器会话，所述客户端计算设备发送与发起所述客户端
‑
服务器会话相关联的分组。4.如权利要求1至3中的任一项所述的方法，还包括：所述工作负载编排器从多个可用的地理上或逻辑上分布的服务器中选择选定服务器，以通过选择在物理上或地理上离如下客户端计算设备最近的特定服务器来处理所述客户端
‑
服务器会话，所述客户端计算设备发送与发起所述客户端
‑
服务器会话相关联的分组。5.如权利要求1至4中的任一项所述的方法，所述工作负载编排器、所述选定服务器以及所述多个地理上或逻辑上分布的服务器位于公共云计算环境中。6.如权利要求5所述的方法，所述选定服务器是所述公共云计算环境中的虚拟计算实例。7.如权利要求5或6所述的方法，所述分组是传输控制协议(TCP)SYN分组，并且所述选定服务器是使用Kubernetes容器虚拟化的公共云计算环境中的虚拟计算实例。8.如权利要求5或6所述的方法，所述分组是在有效载荷中具有HTTP请求的传输控制协议(TCP)SYN分组，并且所述选定服务器是实现服务网格架构中的微服务的公共云计算环境中的虚拟计算实例。9.如权利要求1至8中的任一项所述的方法，还包括：响应于从所述工作负载接收到与发起第二客户端
‑
服务器会话相关联的第二分组，向所述工作负载编排器发送第二工作负载请求；所述工作负载编排器从网络边缘计算节点中的多个可用的地理上或逻辑上分布的服务器中选择第二选定服务器，以处理第二客户端
‑
服务器会话；
所述工作负载编排器向第二选定服务器发送请求以创建第二工作负载来处理第二客户端
‑
服务器会话；从所述工作负载编排器接收标识第二选定服务器的数据；将与同一第二客户端
‑
服务器会话相关联的一个或多个其他分组转发到第二选定服务器。10.一种在网络边缘计算节点的网络基础设施元件中执行的方法，该方法包括：响应于接收到与发起客户端
‑
服务器会话相关联的分组，从多个网络边缘计算节点中的多个可用的地理上或逻辑上分布的服务器中选择选定服务器，以处理所述客户端
‑
服务器会话；向所述选定服务器发送请求以创建工作负载来处理所述客户端
‑
服务器会话；将与同一客户端
‑
服务器会话相关联的一个或多个其他分组转发到所述选定服务器；其中，该方法由一个或多个计算设备执行。11.如权利要求10所述的方法，还包括：接收与完成同一客户端
‑
服务器会话相关联的分组，以及作为响应，向所述选定服务器发送指令以终止。12.如权...

【专利技术属性】
技术研发人员：埃德，
申请(专利权)人：思科技术公司，
类型：发明
国别省市：