System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术属于云计算、计算机及无服务计算的,主要涉及了一种基于serverless冷启动问题的混用策略优化方法及系统。
技术介绍
1、无服务器(serverless)是一种新型的云计算架构,可以自动管理基础架构资源,并将计算资源分配给特定的应用程序。serverless云服务提供商负责底层资源的管理、包括硬件、网络、存储、安全等,以满足云计算的稳定性和可靠性;同时,云服务提供商还提供高效的函数调度和资源分配算法,以满足开发者的需求。相较于传统的基于虚拟机的计算方式,开发者只需要专注在业务层面设计合理的函数和事件触发器,充分利用了serverless计算的弹性和可伸缩性,同时减少了计算成本和管理复杂性。然而,serverless计算也存在缺陷,其中最显著的是“冷启动(cold start)”问题。
2、冷启动问题指的是在函数实例第一次执行时需要初始化环境和代码、加载依赖项等操作,导致启动延迟时间较长,从而影响实时响应性能。为了解决这一问题,服务提供商需要提供高效的资源分配和预热、保活策略,以确保函数实例始终可用且快速响应。开发者也需要优化函数代码和事件触发策略,以减少冷启动的发生。解决冷启动问题一直是serverless架构中的一个研究热点。
3、针对serverless中的冷启动问题,目前较多的研究是不考虑工作流的时间序列算法,shahrad等人(shahrad m,fonseca r,goirií,et al.serverless in the wild:characterizing and optim
4、实际上,通过分析函数的调用特征,了解制约优化“冷启动”问题的瓶颈在于无规律函数的调用,无论是完全使用无工作流的算法,还是使用有工作流的算法,都无法完全解决这个问题。因而是否可以找到一个混用两种方法,且结合两种算法技术优势的方案,成为了本领域技术人员竞相研究的重点。
技术实现思路
1、本专利技术正是针对现有技术中的问题,提供一种基于serverless冷启动问题的混用策略优化方法及系统,针对不同特征的调度函数,采用不同的调度策略,所述策略包括基于无工作流的时间序列模型调度策略和基于工作流的时间序列模型调度策略;针对高频函数,采用无工作流的时间序列模型调度策略,同时查询是否有初始化的实例,若有则执行,若没有则进入有工作流的时间序列模型调度策略;针对低频函数:进入有工作流的时间序列模型调度策略。本专利技术通过分析函数特征,对函数采取基于有无工作流的调度策略,对serverless的冷启动问题进行优化,对无服务器的性能提升有显著作用。
2、为了实现上述目的,本专利技术采取的技术方案是:基于serverless冷启动问题的混用策略优化方法,至少包括预处理阶段、解决方案阶段和更新阶段,其中,
3、a.初始化阶段:分析azure、alibaba的函数调用数据,分析函数的调用特征,所述函数调用特征的分析至少包括高频和低频函数在调用上的特点、规律函数和非规律函数在调用上的特点;对于高频有规律的函数采用无工作流时间序列算法,对于低频函数采用有工作流时间序列算法;
4、b.解决方案阶段:当一个函数被触发时,首先判断其是否是高频函数,若是则进入无工作流的时间序列算法中,否则进入有工作流的时间序列算法中;对于高频函数同时查询是否有初始化的实例,若有则执行,若没有则进入有工作流的时间序列算法中;
5、c.更新阶段:针对高频函数,将其加入到基于深度学习算法的无工作流时间序列算法中,如果监测到其没有初始化的实例,就将其加入到有工作流的算法中;
6、针对低频函数,将其加入到有工作流的算法中,有工作流的算法根据函数的先后调用顺序形成一个有向图,在接收到入口函数的调用之后,选择一条或几条概率最高的函数链进行初始化。
7、作为本专利技术的一种改进,所述初始化阶段具体包括如下步骤:
8、a1:搜集faas平台的数据集,所述faas平台至少包括azure和alibaba;
9、a2:对步骤s1中的数据集通过分析得到函数的调用特征,所述函数的调用特征至少包括函数与应用的分布关系、函数的触发类别、函数的调用频率、函数执行时间和函数占用内存;
10、a3:确定高频低频函数的界限;
11、a4:对于高频有规律的函数采用无工作流时间序列算法,对于低频函数采用有工作流时间序列算法;无工作流时间序列算法采取深度学习模型;有工作流算法是有向图,路径方向代表函数的调用顺序,路径代表概率。
12、作为本专利技术的另一种改进,所述初始化阶段中,针对负载突发和高频无规律函数也使用有工作流时间序列算法。
13、作为本专利技术的另一种改进,所述解决方案阶段中具体包括如下步骤:
14、b1:根据数据集分析得到的特征,确认制约算法处理的性能瓶颈的核心是有无规律的函数调用;
15、b2:根据步骤s4的混用策略,将高频低频的函数分别进入有工作流和无工作流的算法中处理;
16、b3:高频函数全部进入基于深度学习模型的无工作流时间序列算法中处理,所述无工作流算法中训练预热和保活两个参数,分别表示预热的数量和保活的时长;
17、b4:高频函数经过步骤b3的深度学习模型处理之后,其中没有预热实例的函数进入基于有向图的有工作流时间序列算法中处理,最大概率的路径表示预热的数量,有环的情况表示保活参数;所述没有本文档来自技高网...
【技术保护点】
1.基于Serverless冷启动问题的混用策略优化方法,其特征在于:针对不同特征的调度函数,采用不同的调度策略,所述策略包括基于无工作流的时间序列模型调度策略和基于工作流的时间序列模型调度策略;
2.如权利要求1所述的基于Serverless冷启动问题的混用策略优化方法,其特征在于:至少包括预处理阶段、解决方案阶段和更新阶段,其中,
3.如权利要求2所述的基于Serverless冷启动问题的混用策略优化方法,其特征在于:所述初始化阶段具体包括如下步骤:
4.如权利要求3所述的基于Serverless冷启动问题的混用策略优化方法,其特征在于:所述初始化阶段中,针对负载突发和高频无规律函数也使用有工作流时间序列算法。
5.如权利要求2所述的基于Serverless冷启动问题的混用策略优化方法,其特征在于:所述解决方案阶段中具体包括如下步骤:
6.如权利要求5所述的基于Serverless冷启动问题的混用策略优化方法,其特征在于:所述低频函数进入基于有向图的有工作流时间序列算法中,先更新有向图,如果是新节点则需要增加新的路径
7.如权利要求5所述的基于Serverless冷启动问题的混用策略优化方法,其特征在于:所述基于深度学习模型的无工作流时间序列算法的目标函数为:
8.基于Serverless冷启动问题的混用策略优化系统,包括计算机程序,其特征在于:所述计算机程序被处理器执行时实现如上述任一种所述方法的步骤。
...【技术特征摘要】
1.基于serverless冷启动问题的混用策略优化方法,其特征在于:针对不同特征的调度函数,采用不同的调度策略,所述策略包括基于无工作流的时间序列模型调度策略和基于工作流的时间序列模型调度策略;
2.如权利要求1所述的基于serverless冷启动问题的混用策略优化方法,其特征在于:至少包括预处理阶段、解决方案阶段和更新阶段,其中,
3.如权利要求2所述的基于serverless冷启动问题的混用策略优化方法,其特征在于:所述初始化阶段具体包括如下步骤:
4.如权利要求3所述的基于serverless冷启动问题的混用策略优化方法,其特征在于:所述初始化阶段中,针对负载突发和高频无规律函数也使用有工作流时间序列算法。
5.如权利要求2所述的基于serve...
【专利技术属性】
技术研发人员:陈龙,白竞帆,李小平,王爽,朱夏,
申请(专利权)人:东南大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。