System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于容器云平台的微服务资源智能调度策略制造技术_技高网

一种基于容器云平台的微服务资源智能调度策略制造技术

技术编号:40237023 阅读:10 留言:0更新日期:2024-02-02 22:36
本发明专利技术属于微服务领域,具体涉及一种基于容器云平台的微服务资源智能调度策略;该策略包括以下步骤:S1:获取容器云平台的微服务网络拓扑结构并采集各个容器的请求量、CPU、内存和请求响应时间,并对前3类数据归一化;S2:根据S1采集的请求量和网络拓扑结构,利用滑动窗口构建训练集,通过图神经网络构建请求量预测模型并预测未来微服务节点请求量;S3:根据S1采集的微服务相关特征,利用消息传递机制对微服务网络进行特征传递,结合graph embedding和DNN算法,构建微服务响应时间评估模型并训练;S4:将步骤S2预测的请求量作为微服务节点特征之一,以步骤S3的模型作为目标函数,结合启发式算法在QoS约束下得到下一时间段微服务节点资源的最优解并分配资源。

【技术实现步骤摘要】

本专利技术属微服务领域,具体涉及一种基于容器云平台的微服务资源智能调度策略


技术介绍

1、由于微服务架构更加强调业务的重要性,服务的拆分粒度更加细致,并且各个服务之间可以通过轻量级(例如http、grpc)协议进行通信,比传统的单体架构更加灵活,因此微服务凭借其独特的优势在企业上云的过程中发挥巨大作用,越来越多的企业选择微服务架构替代传统的单体架构,并将各种微服务部署到云平台上。但是随着微服务规模的增长,云平台资源管理的弊端也日渐凸显。

2、各种分析表明,业界的云计算cpu使用率只有6%到12%。大规模云资源的浪费已成为云平台资源分配现状的常态,为云服务提供商与企业带来巨大的额外开支。不仅如此,如果微服务的资源管理不当,例如某条微服务请求链中的微服务资源不足,会造成极强的长尾效应,从而导致大规模的请求延时返回。现阶段对于微服务资源调度研究方法有许多:基于阈值的资源调度策略提供的是纯粹的响应式自动伸缩,虽然简单但是分配的资源往往不是很合理,需要较多的专家经验;基于传统理论方法的资源分配策略研究虽然能够在有限的时间内找到较好的资源分配策略,但是其设计启发式规则的时候往往缺乏指导信息,并且会陷入局部最优解中,难以从全局的角度出发找到最优解;基于人工智能算法的资源分配策略研究虽然对于可以自动适应场景,但是无法做到主动分配资源,滞后性较强。

3、随着越来越多的企业将微服务上云,容器云平台提供商往往因为没有较好的资源分配策略但为了保证客户的slo等目标不得不选择牺牲平台资源利用率,从而造成平台资源的大量浪费。而资源的分配决定了基于微服务系统的工作效率。低效率的资源分配策略可能会导致响应时间的增加和吞吐量的降低,从而影响生产进度或用户体验。考虑资源需求和其他关键元素(如微服务组件之间的通信)的资源管理技术对于确保微服务应用程序平稳运行至关重要。但同时确定分配给微服务应用程序的正确资源数量是一项复杂的任务,涉及许多挑战。因此提出一种易于实现、操作简便、且效率较高的微服务资源调度策略,将其运用到容器云平台中微服务资源管理会提高平台资源的利用率,节省大量成本。


技术实现思路

1、为了解决以上存在的技术难题,本专利技术提出一种基于容器云平台的微服务资源智能调度策略,具体包括以下步骤:

2、s1:获取容器云平台的微服务网络拓扑结构并采集一段时间内各个容器节点所部署微服务的请求量、cpu、内存和微服务请求响应时间,并对前3类数据进行归一化;

3、s2:根据s1采集到的微服务请求量以及微服务网络拓扑结构,利用滑动窗口构建训练数据集,通过图卷积神经网络构建微服务请求预测模型,并预测下一时刻各个微服务节点请求数;

4、s3:根据s1采集到的影响微服务响应时间的特征数据,利用消息传递机制针对微服务网络拓扑进行特征传递,结合graph embedding机制和dnn机器学习算法,构建微服务响应时间评估模型,并训练模型的学习参数;

5、s4:将步骤s2预测的结果作为各个微服务节点的补充特征,以步骤s3中的评估模型作为目标函数,结合启发式算法在qos约束下求解得到各个微服务最优资源分配;

6、进一步,所述步骤s1具体包括以下步骤:

7、s11:根据微服务的调用关系,生成对应的有向图,并将该有向图中的每条边表示为<vi,vj,c>,其中vi和vj代表当前边的起点和终点,c代表当前边的长度,由于微服务之间的传递时间可以忽略不计,因此默认每条边长度都相同;

8、s12:采集各个时间段微服务节点所在容器的cpu、内存以及请求量和请求响应时间;

9、s13:将采集到的cpu、内存和请求量进行归一化;

10、进一步,所述步骤s2具体包括以下步骤:

11、s21:将s1中采集到的各个微服务节点的请求量作为初步样本,每个节点的请求量其中si为当前微服务节点的编号,表示在tj,k时间段中接口m的请求量,针对初步样本构建滑动窗口以某一定步长进行滑动并构建训练集;

12、s22:将s11中的有向图表示与s21得到的训练集输入到st-gcn网络中进行训练;

13、s23:预测下一时间段各个微服务节点的请求流量;

14、进一步,所述步骤s3具体包括以下步骤:

15、s31:将步骤s1中采集到的cpu、内存信息以及请求量作为微服务节点的特征,并利用图网络将当前节点特征不断向下游传递,以此让下游节点感受到上游节点的特征信息;

16、s32:结合步骤s11获取的微服务拓扑结构,利用图嵌入表示网络中各个节点,并将每个节点的图嵌入表示作为微服务节点的空间位置特征;

17、s33:将s31和s32得到的节点特征一并输入到dnn网络模型中进行训练;

18、进一步,所述步骤s4具体包括以下步骤:

19、s41:将步骤s3获取的微服务响应时间预测模型作为目标函数并结合步骤s23预测的微服务请求量,采用粒子群算法在满足qos的条件下得到满足响应时间的最优解;

20、s42:根据s31得到的最优解对每个容器节点进行资源分配;

21、本专利技术的有益效果在于:

22、1)充分利用时间和空间数据,根据历史数据获取预测值,能够做到主动对资源进行分配;

23、2)该模型结合时间和空间的特征,拟合数据变化,能够获取较好的预测模型。

24、本专利技术的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述,并且在某种程度上,基于对下文的考察研究对本领域技术人员而言将是显而易见的,或者可以从本专利技术的实践中得到教导。本专利技术的目标和其他优点可以通过下面的说明书来实现和获得。

本文档来自技高网...

【技术保护点】

1.一种基于容器云平台的微服务资源智能调度策略,在一个容器承载一个微服务的场景下,其特征在于,具体包括以下步骤:

2.根据权利要求1所述的一种基于容器云平台的微服务资源智能调度策略,其特征在于,

3.根据权利要求2所述的一种基于容器云平台的微服务资源智能调度策略,其特征在于,在步骤S2中,具体包括:

4.根据权利要求3所述的一种基于容器云平台的微服务资源智能调度策略,其特征在于,

5.根据权利要求4所述的一种基于容器云平台的微服务资源智能调度策略,其特征在于,

【技术特征摘要】

1.一种基于容器云平台的微服务资源智能调度策略,在一个容器承载一个微服务的场景下,其特征在于,具体包括以下步骤:

2.根据权利要求1所述的一种基于容器云平台的微服务资源智能调度策略,其特征在于,

3.根据权利要求2所述的一种基于容器...

【专利技术属性】
技术研发人员:蒋溢薛进万毅田亮熊安萍
申请(专利权)人:重庆邮电大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1