应用实例数量的调整方法及装置制造方法及图纸

本发明专利技术涉及通信领域，提供一种应用实例数量的调整方法及装置，方法包括：获取入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求；基于入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求，确定应用实例的目标数量；将应用实例的初始数量调整至目标数量。由于调整过程中综合考虑到了入口网关处的请求到达状况、应用实例的运行状态以及用户的时延需求，可以通过应用实例数量的自动伸缩提高资源利用率，还可以满足用户的服务响应时延要求，有效解决了现有的无服务平台中自动伸缩机制无法满足用户的服务响应时延要求，且存在服务器集群的资源利用率低的问题。低的问题。低的问题。

【技术实现步骤摘要】
应用实例数量的调整方法及装置


[0001]本专利技术涉及通信
，尤其涉及一种应用实例数量的调整方法及装置。

技术介绍

[0002]无服务(Serverless)是一种新型的云计算架构，可以使用户无需关注底层服务器的管理和维护，且支持简单快捷的应用部署方式和弹性伸缩机制。
[0003]然而，在无服务平台中，现有的自动伸缩机制无法满足用户的服务响应时延要求，且存在服务器集群的资源利用率低的问题。

技术实现思路

[0004]本专利技术提供一种应用实例数量的调整方法及装置，用以解决现有技术中自动伸缩机制无法满足用户的服务响应时延要求，且存在服务器集群的资源利用率低的缺陷。
[0005]第一方面，本专利技术提供一种应用实例数量的调整方法，该方法包括：
[0006]获取入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息以及服务响应时延要求；
[0007]基于所述入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求，确定所述应用实例的目标数量；
[0008]将所述应用实例的初始数量调整至所述目标数量。
[0009]根据本专利技术提供的应用实例数量的调整方法，基于所述入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求，确定所述应用实例的目标数量，包括：
[0010]基于所述入口网关处的请求到达信息和所述应用实例的运行状态信息，确定第一阈值；
[0011]将所述应用实例的初始数量与所述第一阈值进行比较，得到第一比较结果；
[0012]基于所述应用实例的运行状态信息和所述服务响应时延要求，确定第二阈值；
[0013]将所述应用实例的运行状态信息中平均队列长度与所述第二阈值进行比较，得到第二比较结果；
[0014]基于所述第一比较结果和所述第二比较结果，确定所述应用实例的目标数量。
[0015]根据本专利技术提供的应用实例数量的调整方法，所述入口网关处的请求到达信息包括平均请求到达速率。
[0016]根据本专利技术提供的应用实例数量的调整方法，基于所述入口网关处的请求到达信息和所述应用实例的运行状态信息，确定第一阈值，包括：
[0017]将所述平均请求到达速率与所述运行状态信息中平均单个应用实例的处理能力相除，得到第一阈值。
[0018]根据本专利技术提供的应用实例数量的调整方法，基于所述应用实例的运行状态信息和所述服务响应时延要求，确定第二阈值，包括：
[0019]将所述服务响应时延要求与所述应用实例的运行状态信息中平均单个请求完成时长做差，得到时长差值；
[0020]将所述运行状态信息中平均单个应用实例的处理能力与所述时长差值相乘，得到第二阈值。
[0021]根据本专利技术提供的应用实例数量的调整方法，基于所述第一比较结果和所述第二比较结果，确定所述应用实例的目标数量，包括：
[0022]若所述应用实例的初始数量小于所述第一阈值，或者所述应用实例的初始数量等于所述第一阈值且所述应用实例的运行状态信息中平均队列长度大于所述第二阈值，则通过预设的第一函数关系确定所述应用实例的目标数量；
[0023]若所述应用实例的初始数量等于所述第一阈值，且所述应用实例的运行状态信息中平均队列长度小于或等于所述第二阈值，则将所述应用实例的初始数量作为所述应用实例的目标数量；
[0024]若所述应用实例的初始数量大于所述第一阈值，则通过预设的第二函数关系确定所述应用实例的目标数数量。
[0025]根据本专利技术提供的应用实例数量的调整方法，所述第一函数关系为：
[0026][0027]其中，P
new
为应用实例的目标数量，V为平均请求到达速率，t
d
为调整周期，为平均队列长度，P
cu
为应用实例的初始数量，为平均单个应用实例的处理能力，T
SLO
为服务响应时延要求，为平均单个请求完成时长。
[0028]根据本专利技术提供的应用实例数量的调整方法，所述第二函数关系为：
[0029][0030]其中，P
new
为应用实例的目标数量，V为平均请求到达速率，t
d
为调整周期，为平均队列长度，为平均单个应用实例的处理能力，T
SLO
为服务响应时延要求，为平均单个请求完成时长。
[0031]根据本专利技术提供的应用实例数量的调整方法，获取应用实例的运行状态信息，包括：
[0032]分别获取与所述入口网关对应的各个应用实例的状态参数；
[0033]将所述各个应用实例的状态参数求平均值，得到所述应用实例的运行状态信息。
[0034]第二方面，本专利技术还提供一种应用实例数量的调整装置，该装置包括：
[0035]获取模块，用于获取入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息以及服务响应时延要求；
[0036]处理模块，用于基于所述入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求，确定所述应用实例的目标数量；
[0037]调整模块，用于将所述应用实例的初始数量调整至所述目标数量。
[0038]本专利技术提供的应用实例数量的调整方法及装置，通过基于获得的入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求，确定应用实例的目标数量，进而将应用实例的初始数量调整至目标数量，以实现应用实例数量的动态调整，由于调整过程中综合考虑到了入口网关处的请求到达状况、应用实例的运行状态以及用户的时延需求，因此可以通过应用实例数量的自动伸缩提高资源利用率，同时还可以满足用户的服务响应时延要求。
附图说明
[0039]为了更清楚地说明本专利技术或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0040]图1是本专利技术提供的应用实例数量的调整方法的流程示意图；
[0041]图2是入口网关、应用实例与应用实例自动伸缩控制器之间的信息传输原理示意图；
[0042]图3是本专利技术提供的应用实例数量的调整装置的结构示意图；
[0043]图4是本专利技术提供的电子设备的结构示意图。
具体实施方式
[0044]为使本专利技术的目的、技术方案和优点更加清楚，下面将结合本专利技术中的附图，对本专利技术中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。
[0045]下面结合图1至图4描述本专利技术实施例提供的应用实例数量的调整方法、应用实例数本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种应用实例数量的调整方法，其特征在于，包括：获取入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息以及服务响应时延要求；基于所述入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求，确定所述应用实例的目标数量；将所述应用实例的初始数量调整至所述目标数量。2.根据权利要求1所述的应用实例数量的调整方法，其特征在于，基于所述入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求，确定所述应用实例的目标数量，包括：基于所述入口网关处的请求到达信息和所述应用实例的运行状态信息，确定第一阈值；将所述应用实例的初始数量与所述第一阈值进行比较，得到第一比较结果；基于所述应用实例的运行状态信息和所述服务响应时延要求，确定第二阈值；将所述应用实例的运行状态信息中平均队列长度与所述第二阈值进行比较，得到第二比较结果；基于所述第一比较结果和所述第二比较结果，确定所述应用实例的目标数量。3.根据权利要求2所述的应用实例数量的调整方法，其特征在于，所述入口网关处的请求到达信息包括平均请求到达速率。4.根据权利要求3所述的应用实例数量的调整方法，其特征在于，基于所述入口网关处的请求到达信息和所述应用实例的运行状态信息，确定第一阈值，包括：将所述平均请求到达速率与所述运行状态信息中平均单个应用实例的处理能力相除，得到第一阈值。5.根据权利要求2所述的应用实例数量的调整方法，其特征在于，基于所述应用实例的运行状态信息和所述服务响应时延要求，确定第二阈值，包括：将所述服务响应时延要求与所述应用实例的运行状态信息中平均单个请求完成时长做差，得到时长差值；将所述运行状态信息中平均单个应用实例的处理能力与所述时长差值相乘，得到第二阈值。6.根据权利要求2所述的应用实例数量的调整方法，其特征在于，基于所述第一比较结果和所述第二比较结果，确定所述应用实例的目标数量，包括：若所述应用实例的初始数量小于所述第一阈值，或者所述应用实例的初始数量等于所...

【专利技术属性】
技术研发人员：李丹，李峻峰，
申请(专利权)人：清华大学，
类型：发明
国别省市：