无服务器背景下函数实例数量自适应方法及应用技术

本发明专利技术公开了一种无服务器背景下函数实例数量自适应方法及应用，所述方法包括：获取函数实例的历史请求负载数据；基于历史请求负载数据训练预测模型；将训练后的预测模型输入远程过程调用服务器，以使远程过程调用服务器输出预测任务请求数量；基于预测任务请求数量动态调整函数实例数量。该方法以函数实例的历史请求负载数据作为预测模型的训练数据，并将训练后的预测模型输入远程过程调用服务器，以得到预测任务请求数量，最后根据预测任务请求数量动态调整函数实例数量，实现了可提前调整宿主机集群中宿主机的函数实例数量，减少任务请求在应用系统中的排队时间；同时，在任务请求负载不高的时候释放闲置的函数实例，回收其所持有的资源。所持有的资源。所持有的资源。

【技术实现步骤摘要】
无服务器背景下函数实例数量自适应方法及应用


[0001]本专利技术是关于云计算
，特别是关于一种无服务器背景下函数实例数量自适应方法及应用。

技术介绍

[0002]无服务器计算是一种新型的云计算商业模式，易用性和低费用是无服务器计算正在变得越来越流行的主要原因。与传统的基础架构即服务不同，在无服务器计算平台上，用户只需要编写并提交自己的函数，不需要管理与函数运行相关的底层运行环境，平台依据函数运行时所消耗的资源进行收费，在函数实例没有请求到来时平台不进行收费。
[0003]因为闲置的函数实例平台不进行收费，平台倾向于将这些闲置的函数实例进行释放，回收资源。但是过于激进地释放函数实例也会带来问题。当下次函数的请求到来时，请求会因为没有实例可以处理它而排队，而函数实例生成是需要一定的时间的，这称为冷启时间。大多数无服务器计算平台上的函数执行时间非常短，在1秒不到甚至几十毫秒，而冷启动时间却能达到2秒以上，这对于时延敏感型函数来说是不可接受的。
[0004]因此，大多数无服务器计算平台采取将闲置实例保活一段固定时间的方式，牺牲资源上的开销而避免下一次请求到达时因无函数实例可处理而导致时延增加的情况。如OpenWhisk就采取了将函数实例保活固定10分钟的时间，下一次请求到来时，10分钟的计时会被重置。
[0005]同时，为了避免过少的函数实例无法处理过多的并发请求的情况，研究者提出了一种依据队列内排队请求数量和函数实例处理速度来计算需要生成的函数实例数量的方法，但此方法仍未解决闲置的函数实例应该如何释放来回收资源的问题。

技术实现思路

[0006]本专利技术的目的在于提供一种无服务器背景下函数实例数量自适应方法及应用，其用以解决现有技术中存在的任务请求因缺少相应的函数实例处理而导致时延增加、以及如何释放闲置的函数实例来回收资源的技术问题。
[0007]为实现上述目的，本专利技术的实施例提供了一种无服务器背景下函数实例数量自适应方法，所述方法包括：
[0008]获取函数实例的历史请求负载数据，所述历史请求负载数据包括每个相等时间间隔内所述函数实例接收的任务请求数量；
[0009]基于所述历史请求负载数据训练预测模型；
[0010]将训练后的所述预测模型输入远程过程调用服务器，以使所述远程过程调用服务器输出预测任务请求数量；
[0011]基于所述预测任务请求数量动态调整所述函数实例数量。
[0012]在本专利技术的一个或多个实施方式中，将训练后的所述预测模型输入远程过程调用服务器，以使所述远程过程调用服务器输出预测任务请求数量，具体包括：设置滑动窗口，
并将当前时间间隔内所述函数实例接收的任务请求数量加入所述滑动窗口；将所述滑动窗口以及函数实例的类别输入所述远程过程调用服务器，以使所述远程过程调用服务器加载函数实例对应的目标预测模型；基于所述目标预测模型以及滑动窗口确定预测任务请求数量。
[0013]在本专利技术的一个或多个实施方式中，基于所述目标预测模型以及滑动窗口确定预测任务请求数量，具体包括：基于所述目标预测模型并采用多步时间序列预测算法，预测所述滑动窗口经过当前时间间隔后下一时间步内加入的任务请求数量，以确定预测任务请求数量。
[0014]在本专利技术的一个或多个实施方式中，基于所述预测任务请求数量动态调整所述函数实例数量，具体包括：比较所述预测任务请求数量与宿主机集群中现有函数实例数量；若所述预测任务请求数量大于宿主机集群中现有函数实例数量，则在宿主机集群中生成函数实例；若所述预测任务请求数量小于宿主机集群中现有函数实例数量，则在宿主机集群中删除函数实例；其中，所述函数实例的生成数量或删除数量为所述预测任务请求数量与宿主机集群中现有函数实例数量之间的差值。
[0015]在本专利技术的一个或多个实施方式中，所述方法还包括：基于函数实例的历史请求负载数据，每经过更新时间间隔对函数实例所对应的预测模型做一次增量式更新。
[0016]在本专利技术的一个或多个实施方式中，所述方法还包括：设置滑动窗口，以所述滑动窗口每滚动一个时间步取一组函数实例的请求负载数据的方式，将所述函数实例的所有请求负载数据划分成多组，并将多组请求负载数据构建为样本数据集；将所述样本数据集划分为训练集和测试集以训练所述预测模型。
[0017]在本专利技术的一个或多个实施方式中，所述预测模型为长短期记忆网络模型。
[0018]在本专利技术的另一方面当中，提供了一种无服务器背景下函数实例数量自适应装置，所述装置包括：
[0019]获取模块，用于获取函数实例的历史请求负载数据，所述历史请求负载数据包括每个相等时间间隔内所述函数实例接收的任务请求数量；
[0020]训练模块，用于基于所述历史请求负载数据训练预测模型；
[0021]运行模块，用于将训练后的所述预测模型输入远程过程调用服务器，以使所述远程过程调用服务器输出预测任务请求数量；
[0022]调整模块，用于基于所述预测任务请求数量动态调整所述函数实例数量。
[0023]在本专利技术的一个或多个实施方式中，所述获取模块具体用于：设置滑动窗口，以所述滑动窗口每滚动一个时间步取一组函数实例的请求负载数据的方式，将所述函数实例的所有请求负载数据划分成多组，并将多组请求负载数据构建为样本数据集；将所述样本数据集划分为训练集和测试集以训练所述预测模型。
[0024]在本专利技术的一个或多个实施方式中，所述运行模块具体用于：设置滑动窗口，并将当前时间间隔内所述函数实例接收的任务请求数量加入所述滑动窗口；将所述滑动窗口以及函数实例的类别输入所述远程过程调用服务器，以使所述远程过程调用服务器加载函数实例对应的目标预测模型；基于所述目标预测模型以及滑动窗口确定预测任务请求数量。
[0025]在本专利技术的一个或多个实施方式中，所述运行模块具体还用于：基于所述目标预测模型并采用多步时间序列预测算法，预测所述滑动窗口经过当前时间间隔后下一时间步
内加入的任务请求数量，以确定预测任务请求数量。
[0026]在本专利技术的一个或多个实施方式中，所述调整模块具体用于：比较所述预测任务请求数量与宿主机集群中现有函数实例数量；若所述预测任务请求数量大于宿主机集群中现有函数实例数量，则在宿主机集群中生成函数实例；若所述预测任务请求数量小于宿主机集群中现有函数实例数量，则在宿主机集群中删除函数实例；其中，所述函数实例的生成数量或删除数量为所述预测任务请求数量与宿主机集群中现有函数实例数量之间的差值。
[0027]在本专利技术的另一方面当中，还提供了一种电子设备，所述电子设备包括：
[0028]至少一个处理器；以及
[0029]存储器，所述存储器存储指令，当所述指令被所述至少一个处理器执行时，使得所述至少一个处理器执行如上所述的无服务器背景下函数实例数量自适应方法。
[0030]在本专利技术的另一方面当中，还提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种无服务器背景下函数实例数量自适应方法，其特征在于，所述方法包括：获取函数实例的历史请求负载数据，所述历史请求负载数据包括每个相等时间间隔内所述函数实例接收的任务请求数量；基于所述历史请求负载数据训练预测模型；将训练后的所述预测模型输入远程过程调用服务器，以使所述远程过程调用服务器输出预测任务请求数量；基于所述预测任务请求数量动态调整所述函数实例数量。2.如权利要求1所述的无服务器背景下函数实例数量自适应方法，其特征在于，将训练后的所述预测模型输入远程过程调用服务器，以使所述远程过程调用服务器输出预测任务请求数量，具体包括：设置滑动窗口，并将当前时间间隔内所述函数实例接收的任务请求数量加入所述滑动窗口；将所述滑动窗口以及函数实例的类别输入所述远程过程调用服务器，以使所述远程过程调用服务器加载函数实例对应的目标预测模型；基于所述目标预测模型以及滑动窗口确定预测任务请求数量。3.如权利要求2所述的无服务器背景下函数实例数量自适应方法，其特征在于，基于所述目标预测模型以及滑动窗口确定预测任务请求数量，具体包括：基于所述目标预测模型并采用多步时间序列预测算法，预测所述滑动窗口经过当前时间间隔后下一时间步内加入的任务请求数量，以确定预测任务请求数量。4.如权利要求1所述的无服务器背景下函数实例数量自适应方法，其特征在于，基于所述预测任务请求数量动态调整所述函数实例数量，具体包括：比较所述预测任务请求数量与宿主机集群中现有函数实例数量；若所述预测任务请求数量大于宿主机集群中现有函数实例数量，则在宿主机集群中生成函数实例；若所述预测任务请求数量小于宿主机集群中现有函数实例数量，则在宿主机集群中删除函数实例；其中，所述函数实例的生成数量或删除数量为所述预测任务请求数量与宿...

【专利技术属性】
技术研发人员：李鑫，陈子聪，王宁，秦小麟，
申请(专利权)人：南京航空航天大学，
类型：发明
国别省市：