一种云托管函数的暖启动技术制造技术

技术编号:23902759 阅读:37 留言:0更新日期:2020-04-22 11:49
一种系统,计算机实现方法及非瞬时性计算机可读介质,能够提供一种云托管函数的暖启动技术。通过确定与激活的函数工作流关联的云托管函数并在其与激活的函数工作流关联执行之前将该云托管函数实例化(例如,以便后续请求执行该云托管函数),和/或,通过在为已经实例化的云托管函数动态确定的维持时间内保持该云托管函数(以便后续在该维持时间内请求执行该云托管函数)等,该暖启动技术可降低与所述云托管函数的执行时间相关联的时延。

Warm start technology of cloud hosting function

【技术实现步骤摘要】
【国外来华专利技术】一种云托管函数的暖启动技术相关申请案本专利技术要求2018年1月23递交的专利技术名称为“WARMSTARTTECHNIQUEFORCLOUD-HOSTEDFUNCTIONS”的第15/878,318号美国非临时申请案的在先申请优先权,其中,该非临时专利申请要求2017年9月1递交的第62/553,637号美国临时申请案的在先申请优先权。这些申请的内容以引入的方式并入本文。
本公开涉及云托管函数,更具体地,涉及降低与云托管函数调用相关的时延。
技术介绍
“云”是一种与通过网络进行的资源管理相关的抽象概念,更具体地,它涉及一种数据中心架构,该数据中心架构提供一种通过网络交付服务的平台。例如,云可以指各种通过因特网交付的服务,如基于网络的存储服务及计算服务。典型的云架构部署包括层级体系,该层级体系包括网络硬件的物理层以及一个或多个使用户接入网络硬件的软件层。例如,一种常见的云架构部署形式包括网络资源(如服务器、存储设备阵列、网络交换机等)的物理层及多层分级软件框架。该软件框架包括实现基础设施即服务(IaaS)的第一层,实现平台即服务(PaaS)的第二层以及实现软件即服务(SaaS)的第三层。虽然可能存在特例,但通常来说,第三层中的资源依赖于第二层中的资源,第二层中的资源依赖于第一层中的资源,第一层中的资源依赖于物理层中的资源。最近开发出一种无服务器云架构,该架构使用户能够执行云中的函数,而无需在上述传统分级结构中发放资源。例如,亚马逊网络服务(AWS)开发的AWSLambda服务使用户能够运行代码而无需像在传统计算服务中一样发放或管理用于运行代码的服务器。因此,可以开发用于呼叫上传到AWSLambda服务上的函数的网络应用,其中,用于执行函数的计算资源由亚马逊,而非网络应用,管理发放。在一些环境中,由服务器应用向函数管理器发送请求,调用云托管函数(此处也称作云函数)。该函数管理器通过在服务器或虚拟机上发放容器来处理该请求,其中,该容器中包括执行该云函数所需的所有资源(如计算资源、存储资源等);然后将该云函数的镜像加载到该容器中执行。但是创建该容器并将该云函数的镜像加载到该容器中需要计算周期,并且可能导致长达几百毫秒的云函数执行时延。该时延增加了接收该请求与从云函数向服务器应用返回结果之间的延迟。因此,需要降低与云托管函数调用相关联的时延。
技术实现思路
提供一种云托管函数的暖启动技术的系统,包括非瞬时性存储器及一个或多个与所述存储器通信的处理器,其中,所述非瞬时性存储器包含指令,所述一个或多个处理器执行所述指令以激活函数工作流,所述函数工作流包括多个状态及所述状态之间的转换。另外,激活所述函数工作流之后,所述一个或多个处理器执行所述指令以确定与所述函数工作流包括的所述多个状态中特定状态相关联的云托管函数。所述一个或多个处理器还执行所述指令以在所述函数工作流中触发所述特定状态以执行所述云托管函数之前,将确定的云托管函数实例化。还提供一种云托管函数的暖启动技术的计算机实现方法。激活函数工作流,其中,所述函数工作流包括多个状态及所述状态之间的转换。此外,激活所述函数工作流之后,确定与所述函数工作流包括的所述多个状态中特定状态相关联的云托管函数。进一步地,在所述函数工作流中触发所述特定状态以执行所述云托管函数之前,将确定的云托管函数实例化。还提供一种存储有计算机指令的非瞬时性计算机可读介质。当一个或多个处理器执行所述指令时,使得所述一个或多个处理器执行相关步骤基于移动设备的当前场景再次执行应用中先前完成的任务。所述步骤包括:激活函数工作流,其中,所述函数工作流包括多个状态及所述状态之间的转换。所述步骤还包括:激活所述函数工作流之后,确定与所述函数工作流包括的所述多个状态中特定状态相关联的云托管函数。所述步骤还包括:在所述函数工作流中触发所述特定状态以执行所述云托管函数之前,将确定的云托管函数实例化。可提供一种云托管函数的函数工作流控制系统。所述函数工作流控制系统可包括:激活元件,用于激活函数工作流,其中所述函数工作流包括多个状态及所述状态之间的转换;决策元件,用于在激活所述函数工作流之后,确定与所述函数工作流包括的所述多个状态中特定状态相关联的云托管函数;实例化元件,用于在所述函数工作流中触发所述特定状态以执行所述云托管函数之前,将确定的云托管函数实例化。还提供一种包括函数工作流控制器的系统。所述函数工作流控制器用于激活函数工作流,其中,所述函数工作流包括多个状态及所述状态之间的转换。所述函数工作流控制器还用于在激活所述函数工作流之后,确定与所述函数工作流包括的所述多个状态中特定状态相关联的云托管函数。所述函数工作流控制器还用于在所述函数工作流中触发所述特定状态以执行所述云托管函数之前,将确定的云托管函数实例化。可选地,在上述任一实施例中,在云计算环境中通过人工指令或触发事件激活所述函数工作流。可选地,在上述任一实施例中,所述函数工作流包括的所述多个状态中的所述特定状态是所述函数工作流包括的所述多个状态中的任意状态,这样在所述函数工作流激活时直接确定与所述函数工作流包括的所述多个状态相关联的所有云托管函数,以实现其实例化。可选地,在上述任一实施例中,通过以下方式确定所述云托管函数:确认所述函数工作流中的当前状态;确定所述特定状态在所述函数工作流中与所述当前状态相距预定义转换次数;确认所述云托管函数与所述特定状态相关联。进一步可选地,所述预定义转换次数为1,因此,确定所述特定状态为所述函数工作流中所述当前状态能够转换到的下一状态。可选地,在上述任一实施例中,通过以下方式确定所述云托管函数:确认所述函数工作流中触发的当前状态;确定所述函数工作流中从所述当前状态开始的多个可能的转换路径;预测所述多个可能的转换路径中的特定转换路径将用于所述函数工作流的激活;确定所述特定状态包括在所述特定转换路径中;确认所述云托管函数与所述特定状态相关联。进一步可选地,根据在所述函数工作流的先前执行中收集的历史统计信息预测所述特定转换路径将用于所述函数工作流的激活。可选地,在上述任一实施例中,通过以下方式确定所述云托管函数:确认所述函数工作流中的当前状态;确定所述当前状态具有一个或多个相关联的云托管函数。可选地,在上述任一实施例中,将确定的云托管函数实例化包括在云计算环境中为所述云托管函数创建一个容器,其中,所述容器为所述云托管函数的执行环境;在所述容器中加载所述云托管函数的镜像;初始化所述云托管函数的运行时环境。可选地,在上述任一实施例中,将确定的云托管函数实例化包括在云计算环境中创建所述云托管函数的实例。可选地,在上述任一实施例中,所述一个或多个处理器还执行所述指令以在所述函数工作流中触发所述特定状态时执行所述云托管函数。可选地,在上述任一实施例中,所述一个或多个处理器还执行所述指令以在确定所述函数工作流已经终止时,从云计算环境中释放所述云托管函数的实例化。提供一种云托管函数的暖启动技术的系统,包括非瞬时性存储器及一个或多个与所本文档来自技高网
...

【技术保护点】
1.一种系统,其特征在于,包括:/n包含指令的非瞬时性存储器;/n一个或多个与所述存储器通信的处理器,其中,所述一个或多个处理器执行所述指令以:/n激活函数工作流,其中,所述函数工作流包括多个状态及所述状态之间的转换;/n激活所述函数工作流之后,确定与所述函数工作流包括的所述多个状态中特定状态相关联的云托管函数;/n在所述函数工作流中触发所述特定状态以执行所述云托管函数之前,将确定的云托管函数实例化。/n

【技术特征摘要】
【国外来华专利技术】20170901 US 62/553,637;20180123 US 15/878,3181.一种系统,其特征在于,包括:
包含指令的非瞬时性存储器;
一个或多个与所述存储器通信的处理器,其中,所述一个或多个处理器执行所述指令以:
激活函数工作流,其中,所述函数工作流包括多个状态及所述状态之间的转换;
激活所述函数工作流之后,确定与所述函数工作流包括的所述多个状态中特定状态相关联的云托管函数;
在所述函数工作流中触发所述特定状态以执行所述云托管函数之前,将确定的云托管函数实例化。


2.根据权利要求1所述的系统,其特征在于,在云计算环境中通过人工指令或触发事件激活所述函数工作流。


3.根据权利要求1所述的系统,其特征在于,所述函数工作流包括的所述多个状态中的所述特定状态是所述函数工作流包括的所述多个状态中的任意状态,这样在所述函数工作流激活时直接确定与所述函数工作流包括的所述多个状态相关联的所有云托管函数,以实现其实例化。


4.根据权利要求1所述的系统,其特征在于,通过以下方式确定所述云托管函数:
确认所述函数工作流中触发的当前状态;
确定所述特定状态在所述函数工作流中与所述当前状态相距一次转换;
确认所述云托管函数与所述特定状态相关联以对其进行实例化。


5.根据权利要求1所述的系统,其特征在于,通过以下方式确定所述云托管函数:
确认所述函数工作流中的当前状态;
确定所述函数工作流中从所述当前状态开始的多个可能的转换路径;
预测所述多个可能的转换路径中的特定转换路径将用于所述函数工作流的激活;
确定所述特定状态包括在所述特定转换路径中;
确认所述云托管函数与所述特定状态相关联以对其进行实例化。


6.根据权利要求5所述的系统,其特征在于,根据在所述函数工作流的先前执行中收集的历史统计信息预测所述特定转换路径将用于所述函数工作流的激活。


7.根据权利要求1所述的系统,其特征在于,将确定的云托管函数实例化包括:
在云计算环境中为所述云托管函数创建一个容器,其中,所述容器为所述云托管函数的执行环境;
在所述容器中加载所述云托管函数的镜像;
初始化所述云托管函数的运行时环境。


8.根据权利要求1所述的系统,其特征在于,在所述函数工作流中触发所述特定状态时,执行所述云托管函数。


9.根据权利要求1所述的系统,其特征在于,当确定所述函数工作流已经终止时,从云计算环境中释放所述云托管函数的实例化。


10.一种系统,其特征在于,包括...

【专利技术属性】
技术研发人员:张红亨利·路易斯·福里法尔哈德·P·桑娜瓦拉
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1