用于无服务器应用的基于轨迹的分层自动缩放制造技术

一种方法，包括在第一时间间隔期间监控与由计算节点的集群执行的一个或多个应用相关联的流量，并且鉴于在第一时间间隔期间与一个或多个应用相关联的流量，确定流量被预测为在第二时间间隔结束时超过计算节点的集群的容量阈值。该方法还包括发起要添加到计算节点的集群的附加的计算节点的启动，以执行一个或多个应用的副本。个应用的副本。个应用的副本。

【技术实现步骤摘要】
用于无服务器应用的基于轨迹的分层自动缩放


[0001]本公开的各方面涉及无服务器应用的缩放，并且更具体地，涉及用于无服务器应用集群的基于轨迹的分层自动缩放。

技术介绍

[0002]无服务器应用系统可以由云计算系统执行。云计算系统可以动态管理云计算系统的服务器上的无服务器功能的分配和供应。无服务器应用可以是执行各种功能的执行环境。

技术实现思路

[0003]根据第一方面，本公开提供了一种方法，包括：在第一时间间隔期间，监控与由计算节点的集群执行的一个或多个应用相关联的流量；鉴于在第一时间间隔期间与一个或多个应用相关联的流量，由处理设备确定流量被预测为在第二时间间隔结束时超过计算节点的集群的容量阈值；以及发起要添加到计算节点的集群的附加的计算节点的启动，以执行一个或多个应用的副本。
[0004]根据第二方面，本公开提供了一种系统，包括：存储器；以及可操作地耦合到存储器的处理设备，处理设备用于：在第一时间间隔期间，监控与由计算节点的集群执行的一个或多个应用相关联的流量；鉴于在第一时间间隔期间与一个或多个应用相关联的流量，确定流量被预测为在第二时间间隔结束时超过计算节点的集群的容量阈值；和发起要添加到计算节点的集群的附加的计算节点的启动，以执行一个或多个应用的副本。
[0005]根据第三方面，本公开提供了一种非暂时性计算机可读存储介质，包括指令，当由处理设备执行时，指令使得处理设备：在第一时间间隔期间，监控与由计算节点的集群执行的一个或多个应用相关联的流量；由处理设备鉴于在第一时间间隔期间与一个或多个应用相关联的流量，确定流量被预测为在第二时间间隔结束时超过计算节点的集群的容量阈值；以及发起要添加到计算节点的集群的附加的计算节点的启动，以执行一个或多个应用的副本。
[0006]所公开的方法、系统和非暂时性计算机可读存储介质的其他特征和优点在以下详细描述和附图中进行了描述，并且将从以下详细描述和附图中变得显而易见。
附图说明
[0007]通过结合附图参考以下描述，可以最好地理解所描述的实施例及其优点。这些附图决不限制本领域技术人员在不脱离所描述的实施例的精神和范围的情况下可以对所描述的实施例进行的任何形式和细节上的改变。
[0008]图1是示出根据一些实施例的用于无服务器应用集群的基于轨迹的自动缩放的示例系统的系统图。
[0009]图2是示出根据一些实施例的用于无服务器应用集群的基于轨迹的自动缩放的系
统的另一示例的框图。
[0010]图3是根据一些实施例的无服务器应用集群的基于轨迹的分层缩放的框图。
[0011]图4是示出根据一些实施例的用于无服务器集群的基于轨迹的自动缩放的预计集群利用的时间
‑
利用图。
[0012]图5描绘了根据一些实施例的自动缩放无服务器集群的示例方法的流程图。
[0013]图6是根据本公开的一些实施例的可以执行本文描述的一个或多个操作的示例装置的框图。
具体实施方式
[0014]无服务器应用可以服务于大型并行工作负载，而无需手动缩放应用。无服务器应用可以基于流量相关指标(如每秒请求数或并发数)自动缩放(scale)，以确定处理特定工作负载需要多少个应用的副本。因此，无服务器应用可以根据需要灵活地向上缩放(scale up)或向下缩放(scale down)，以支持对应的工作负载。实例化应用的新副本可能花费相对较少的时间(例如，1
‑
3秒)，因此创建和删除应用副本相对便宜。当托管应用副本的集群的所有计算节点都已满时，可能需要启动附加的计算节点来支持应用的附加缩放。但是，启动附加的计算节点可能需要相对较长的时间(例如，长达30分钟)。因此，当需要附加的计算节点来支持缩放时，缩放无服务器应用的弹性可能会受到限制。因此，传统系统要么过度配置托管的应用所需的计算节点的数量，要么在达到集群的最大计算容量时启动附加的节点，从而抵消无服务器平台的弹性。例如，当没有足够容量的节点可用于满足对应用副本的调度请求时，传统系统以被动方式缩放集群，导致等待新节点启动的延迟。
[0015]本公开的各方面通过为无服务器应用提供基于轨迹的分层自动缩放解决了上述和其他缺陷。基于轨迹的集群自动缩放器可以从由计算节点的集群托管的所有无服务器应用收集度量(例如，流量度量，如每秒请求数或观察到的并发数)。基于轨迹的自动缩放器可以在集群范围规模(cluster
‑
wide scale)上组合为无服务器应用收集的度量，以确定集群的整体流量轨迹。例如，基于轨迹的集群自动缩放器可以外推(extrapolate)历史和当前流量度量，以确定流量轨迹在未来时间点(例如，在特定的未来时间窗口内)是否可能超过集群的当前容量。因此，基于轨迹的自动缩放器可以预测对托管无服务器应用的集群的附加的计算节点的需求。
[0016]在一个示例中，基于轨迹的自动缩放器可以对由集群托管的每个无服务器应用收集的流量度量执行一个或多个统计分析或者应用一个或多个机器学习算法，以预测整个集群的未来流量。因此，基于轨迹的自动缩放器可以预测是否将超过集群的容量阈值，然后在集群达到其容量限制之前主动地向上缩放集群。在一些示例中，基于轨迹的自动缩放器可以结合流量突发容量、紧急窗口(例如，一次向上缩放多个节点)和其他无服务器缩放技术。
[0017]通过前瞻性地(proactively)预测集群的整体流量，可以在集群达到其当前容量之前启动附加的计算节点并将其添加到集群，这减少了由于当集群达到容量时附加的节点的启动时间而导致的集群的无服务器应用的延迟。此外，在达到容量之前发起附加的计算节点可能使计算资源向集群的过度分配变得不必要，从而提供更有效的计算资源分配。
[0018]图1描绘了根据本公开的一个或多个方面的计算机系统架构100的说明性示例的高级组件图。本领域的技术人员将理解，其他计算机系统体系结构也是可能的，并且利用本
专利技术的示例的计算机系统的实现不必限于图1所示的特定体系结构。
[0019]如图1所示，计算机系统架构100包括主机系统110A
‑
110B和缩放系统140。主机系统110A
‑
110B和缩放系统140包括一个或多个处理设备160A
‑
160B、存储器170，存储器170可以包括易失性存储器设备(例如，随机存取存储器(RAM))、非易失性存储器设备(例如，闪存)和/或其他类型的存储器设备、存储设备180(例如，一个或多个磁硬盘驱动器、外围组件互连(PCI)固态驱动器、独立磁盘冗余阵列(RAID)系统、网络连接存储(NAS)阵列等)，和一个或多个设备190(例如，外围组件互连(PCI)设备、网络接口控制器(NIC)、视频卡、I/O设备等)。在某些实现中，存储器170可以是非均匀访问(NUMA)，使得存储器访问时间取决于相对于处理设备160A
‑
160B的存储器位置。应当注意，尽管为了简单起见，主机系统110A在图1中被本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种方法，包括：在第一时间间隔期间，监控与由计算节点的集群执行的一个或多个应用相关联的流量；鉴于在第一时间间隔期间与一个或多个应用相关联的流量，由处理设备确定流量被预测为在第二时间间隔结束时超过计算节点的集群的容量阈值；以及发起要添加到计算节点的集群的附加的计算节点的启动，以执行一个或多个应用的副本。2.根据权利要求1所述的方法，其中第二时间间隔对应于与启动附加的计算节点相关联的时间量。3.根据权利要求1所述的方法，其中一个或多个应用包括一个或多个无服务器应用。4.根据权利要求1所述的方法，其中流量包括由计算节点的集群执行的一个或多个应用中的每一个接收的并发请求的数量。5.根据权利要求1所述的方法，其中监控与由计算节点的集群执行的一个或多个应用相关联的流量包括：从一个或多个应用的每一个中抓取一个或多个流量度量；以及鉴于来自一个或多个应用中的每一个的一个或多个流量度量，确定在第一时间间隔期间集群的总流量水平。6.根据权利要求5所述的方法，其中确定与一个或多个应用相关联的流量被预测为在第二时间间隔结束时超过计算节点的集群的容量阈值包括：将第一时间间隔期间集群的总流量水平外推至第二时间间隔上。7.根据权利要求6所述的方法，其中将集群的总流量水平外推包括：对第一时间间隔期间集群的总流量水平应用统计分析或机器学习模型，以估计在第二时间间隔结束时集群的未来总流量水平。8.一种系统，包括：存储器；以及可操作地耦合到存储器的处理设备，所述处理设备用于：在第一时间间隔期间，监控与由计算节点的集群执行的一个或多个应用相关联的流量；鉴于在第一时间间隔期间与一个或多个应用相关联的流量，确定流量被预测为在第二时间间隔结束时超过计算节点的集群的容量阈值；和发起要添加到计算节点的集群的附加的计算节点的启动，以执行一个或多个应用的副本。9.根据权利要求8所述的系统，其中第二时间间隔对应于与启动附加的计算节点相关联的时间量。10.根据权利要求8所述的系统，其中一个或多个应用包括一个或多个无服务器应用。11.根据权利要求8所述的系统，其中流量包括由计算节点的集群执行的一个或多个应用中的每一个接收的并发请求的数量。12.根据权利要求8所述的系统，其中用于监控与由计算节点的集...

【专利技术属性】
技术研发人员：M特梅斯，R胡斯，
申请(专利权)人：红帽公司，
类型：发明
国别省市：