System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及资源分配,尤其涉及一种无服务器的资源主动弹性伸缩方法、装置和管理系统。
技术介绍
1、在serverless(无服务器)架构中,弹性伸缩是资源管理的关键技术之一,是指系统实时增加或释放分配的资源以适应请求负载变化的能力。系统会根据具体的业务请求数灵活地对计算实例进行扩缩容,以应对流量和数据的变化。当用户请求量上升时,弹性伸缩技术自动增加实例数量或为现有实例分配更多的资源(如cpu、内存或磁盘资源);当用户请求量下降时,弹性伸缩技术自动释放实例或减少现有实例占有的资源。弹性伸缩赋予了serverless系统自动化、低成本、高可用、灵活智能等特性,不仅适用于请求量不断波动的业务场景,同时也适用于请求周期性的业务场景。
2、现有无服务器平台的弹性伸缩通常使用的是静态缩放技术,主要包括按请求缩放、并发值缩放、基于度量的缩放和基于阈值的缩放等。对此,一些研究工作提出了更加动态的方法,包括使用时间序列分析辅助决策,以及使用强化学习技术来支持动态性和适应性。
3、虽然机器学习技术有望提高动态资源分配的自动化,但是传统的机器学习技术在处理高维复杂问题方面存在弱点,同时难以识别资源利用和用户服务质量(quality ofservice,qos)的平衡条件,难以平衡资源利用率和请求响应时间,经常导致资源浪费或违反服务水平协议(service-level agreement,sla),进而导致资源弹性伸缩的成本较高。
技术实现思路
1、本专利技术提供了一种无服务器的
2、本专利技术提供的一种无服务器的资源主动弹性伸缩方法,包括:
3、当接收到业务请求时,匹配所述业务请求对应的业务服务信息,并获取当前已分配资源量和分配限值向量;
4、基于所述业务服务信息对应的历史流量速率和历史资源需求量,分别预测当前流量速率和当前资源需求量;
5、采用所述业务服务信息、所述当前已分配资源量、所述当前流量速率、所述当前资源需求量和所述分配限值向量进行拼接,得到当前资源状态;
6、将所述当前资源状态输入至预设的目标策略网络,通过所述目标策略网络确定对应的目标动作;
7、采用所述目标动作对无服务器内的容器资源进行弹性伸缩。
8、可选地,所述基于所述业务服务信息对应的历史流量速率和历史资源需求量,分别预测当前流量速率和当前资源需求量的步骤,包括:
9、按照所述业务服务信息,匹配对应的历史流量速率和历史资源需求量;
10、采用预设的gru预测模型结合所述历史流量速率,预测当前流量速率;
11、采用预设的gru预测模型结合所述历史资源需求量,预测当前资源需求量。
12、可选地,所述采用所述业务服务信息、所述当前已分配资源量、所述当前流量速率、所述当前资源需求量和所述分配限值向量进行拼接,得到当前资源状态的步骤,包括:
13、采用所述当前流量速率、所述业务服务信息、所述当前资源需求量和所述当前已分配资源量构建初始矩阵;
14、将所述初始矩阵进行展开,得到一维向量;
15、采用所述一维向量与所述分配限值向量进行向量拼接,得到当前资源状态。
16、可选地,所述方法还包括:
17、构建初始策略网络;
18、基于预设的参数更新梯度对所述初始策略网络内的模型参数进行调整,直至所述初始策略网络收敛,得到目标策略网络。
19、可选地,所述参数更新梯度为:
20、
21、其中,指的是使用策略网络πθ计算得到的期望,at为t时刻的弹性伸缩动作,st为t时刻的当前资源状态,θ为策略网络πθ内的模型参数,为在状态st处选择动作at,并在之后执行当前策略情况下,从第t+i步开始获得的累计奖励。
22、本专利技术还提供了一种无服务器的资源主动弹性伸缩装置,包括:
23、信息获取模块,用于当接收到业务请求时,匹配所述业务请求对应的业务服务信息,并获取当前已分配资源量和分配限值向量;
24、资源预测模块,用于基于所述业务服务信息对应的历史流量速率和历史资源需求量,分别预测当前流量速率和当前资源需求量;
25、资源状态确定模块,用于采用所述业务服务信息、所述当前已分配资源量、所述当前流量速率、所述当前资源需求量和所述分配限值向量进行拼接,得到当前资源状态;
26、动作确定模块,用于将所述当前资源状态输入至预设的目标策略网络,通过所述目标策略网络确定对应的目标动作;
27、弹性伸缩模块,用于采用所述目标动作对无服务器内的容器资源进行弹性伸缩。
28、可选地,所述资源预测模块具体用于:
29、按照所述业务服务信息,匹配对应的历史流量速率和历史资源需求量;
30、采用预设的gru预测模型结合所述历史流量速率,预测当前流量速率;
31、采用预设的gru预测模型结合所述历史资源需求量,预测当前资源需求量。
32、可选地,所述资源状态确定模块具体用于:
33、采用所述当前流量速率、所述业务服务信息、所述当前资源需求量和所述当前已分配资源量构建初始矩阵;
34、将所述初始矩阵进行展开,得到一维向量;
35、采用所述一维向量与所述分配限值向量进行向量拼接,得到当前资源状态。
36、可选地,所述装置还包括:
37、策略网络构建模块,用于构建初始策略网络;
38、参数调整模块,用于基于预设的参数更新梯度对所述初始策略网络内的模型参数进行调整,直至所述初始策略网络收敛,得到目标策略网络。
39、本专利技术还提供了一种无服务器的资源主动弹性伸缩管理系统,包括api服务器、监测模块、日志模块和如上述任一项所述的无服务器的资源主动弹性伸缩装置。
40、从以上技术方案可以看出,本专利技术具有以下优点:
41、当接收到业务请求时,匹配业务请求对应的业务服务信息,并获取当前已分配资源量和分配限值向量;基于业务服务信息对应的历史流量速率和历史资源需求量,分别预测当前流量速率和当前资源需求量;采用业务服务信息、当前已分配资源量、当前流量速率、当前资源需求量和分配限值向量进行拼接,得到当前资源状态;将当前资源状态输入至预设的目标策略网络,通过目标策略网络确定对应的目标动作;采用目标动作对无服务器内的容器资源进行弹性伸缩。具有前置主动自适应扩缩容的优点,通过融合循环神经网络,可以基于预测主动前置地进行扩缩容决策,而无需被动等待触发阈值。同时,深度强化学习拥有良好的自适应能力,哪怕应用本文档来自技高网...
【技术保护点】
1.一种无服务器的资源主动弹性伸缩方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述基于所述业务服务信息对应的历史流量速率和历史资源需求量,分别预测当前流量速率和当前资源需求量的步骤,包括:
3.根据权利要求1所述的方法,其特征在于,所述采用所述业务服务信息、所述当前已分配资源量、所述当前流量速率、所述当前资源需求量和所述分配限值向量进行拼接,得到当前资源状态的步骤,包括:
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
5.根据权利要求4所述的方法,其特征在于,所述参数更新梯度为:
6.一种无服务器的资源主动弹性伸缩装置,其特征在于,包括:
7.根据权利要求6所述的装置,其特征在于,所述资源预测模块具体用于:
8.根据权利要求6所述的装置,其特征在于,所述资源状态确定模块具体用于:
9.根据权利要求6所述的装置,其特征在于,所述装置还包括:
10.一种无服务器的资源主动弹性伸缩管理系统,其特征在于,包括API服务器、监测模块、日志模块和如
...【技术特征摘要】
1.一种无服务器的资源主动弹性伸缩方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述基于所述业务服务信息对应的历史流量速率和历史资源需求量,分别预测当前流量速率和当前资源需求量的步骤,包括:
3.根据权利要求1所述的方法,其特征在于,所述采用所述业务服务信息、所述当前已分配资源量、所述当前流量速率、所述当前资源需求量和所述分配限值向量进行拼接,得到当前资源状态的步骤,包括:
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
5.根据权利要求4...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。