System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 资源管理方法、装置、设备及存储介质制造方法及图纸_技高网

资源管理方法、装置、设备及存储介质制造方法及图纸

技术编号:40835786 阅读:2 留言:0更新日期:2024-04-01 15:00
本发明专利技术公开了一种资源管理方法、装置、设备及存储介质,其中方法包括:当主机已部署离线业务时,若接收到部署在线业务的指令,则降低离线业务的资源分配,并为在线业务的每个微服务在当前时间段配置过量资源;基于预先训练好的预测模型预测每个微服务下一预设时间段的预测请求频率,并根据预测请求频率对每个微服务在下一预设时间段的资源进行预分配;间隔预设周期采集每个微服务的实时尾部延迟,并获取每个微服务在离线分析阶段生成的尾部延迟目标;根据实时尾部延迟和尾部延迟目标调整微服务和离线业务的资源分配。本发明专利技术能够有效应对主机上多个在线和多个离线业务混部的情景,并保证在线业务端到端的响应时延,同时提高资源利用率。

【技术实现步骤摘要】

本申请涉及云计算,特别是涉及一种资源管理方法、装置、设备及存储介质


技术介绍

1、云计算是一种通过网络提供计算资源和服务的模式,可以支持在线应用和批处理调用等广泛应用程序。云计算中的资源管理系统,为了保证应用的服务质量,常常会为应用过度分配资源,但是这也会导致云计算系统中的整体资源利用率较低。微服务作为一种常用的在线应用架构,通常由多个微服务组件构成,而微服务组件之间又存在复杂的调用关系。

2、近年来,微服务架构在云计算技术中得到快速发展且应用广泛。相比传统的单体架构,在一个应用程序中运行所有的服务组件,微服务系统将应用解耦为多个组件,以便更容易地管理、维护和更新。由于微服务之间具有轻量级和松散耦合的特性,因此在负载不断增加的情况下,资源管理器可以定位过载的单个微服务,并独立扩展该微服务,而不是对整个应用程序进行扩展。

3、随着微服务架构的广泛应用,微服务资源管理面临着新的挑战。尽管微服务架构具有灵活性,但在保证服务水平协议的同时,需要处理数百个微服务的服务请求。这些组件之间形成了一个复杂的依赖图,因此要实现细粒度的资源管理以提高资源利用率并确保端到端的响应时延变得非常困难。此外,微服务容器通常与批处理应用运行在同一物理机上,这可能会导致同一微服务的容器之间的性能不平衡,特别是在工作负载很重的情况下,出现资源干扰的情况。最重要的是,目前对于主机上多个在线业务与多个离线业务混部的情景,资源的合理分配显得尤为重要,而现有的资源调度方案要么是单独针对在线业务的资源分配,要么是单独针对离线业务的资源分配,尚缺少一种能够有效协调在线业务和离线业务混部情形的资源调度方案。


技术实现思路

1、有鉴于此,本申请提供一种资源管理方法、装置、设备及存储介质,以解决在线业务和离线业务混部情形下资源调度不合理的问题。

2、为解决上述技术问题,本申请采用的一个技术方案是:提供一种资源管理方法,其包括:当主机已部署离线业务时,若接收到部署在线业务的指令,则降低离线业务的资源分配,并为在线业务的每个微服务在当前时间段配置过量资源;基于预先训练好的预测模型预测每个微服务下一预设时间段的预测请求频率,并根据预测请求频率对每个微服务在下一预设时间段的资源进行预分配;间隔预设周期采集每个微服务的实时尾部延迟,并获取每个微服务在离线分析阶段生成的尾部延迟目标;根据实时尾部延迟和尾部延迟目标调整微服务和离线业务的资源分配。

3、作为本申请的进一步改进,基于预先训练好的预测模型预测每个微服务下一预设时间段的预测请求频率,并根据预测请求频率对每个微服务在下一预设时间段的资源进行预分配,包括:在部署在线业务后,获取每个微服务对应的预先构建的以请求频率作为自变量的尾部延迟模型和资源利用率模型,尾部延迟模型根据每个微服务在多个预设请求频率下的尾部延迟构建,资源利用率模型根据每个微服务在多个预设请求频率下的资源利用率构建;获取每个微服务在当前时间段的当前请求频率;将每个微服务的当前时间段和当前请求频率输入至预先训练好的时间序列预测模型,预测得到每个微服务的下一预设时间段的预测请求频率;根据当前请求频率、预测请求频率和每个微服务的尾部延迟模型、资源利用率模型为每个微服务预分配下一预设时间段的资源。

4、作为本申请的进一步改进,根据当前请求频率、预测请求频率和每个微服务的尾部延迟模型、资源利用率模型为每个微服务预分配下一预设时间段的资源,包括:利用当前请求频率、预先获取的微服务的副本数量和第一预设误差系数按第一预设规则计算第一请求频率参考值;比对预测请求频率与第一请求频率参考值的大小关系;若预测请求频率大于或等于第一请求频率参考值,则对微服务所占用的资源进行扩容处理;若预测请求频率小于第一请求频率参考值,则对微服务所占用的资源进行缩容处理。

5、作为本申请的进一步改进,对微服务所占用的资源进行扩容处理,包括:根据尾部延迟目标和尾部延迟模型确认尾部延迟目标对应的最小请求频率;根据最小请求频率、微服务的副本数量和第一预设误差系数按第二预设规则计算第二请求频率参考值;比对预测请求频率和第二请求频率参考值的大小;若预测请求频率小于第二请求频率参考值,则对微服务的资源进行纵向扩容,纵向扩容后的资源利用率利用预测请求频率、副本数量、资源利用率模型和第二预设误差系数按第三预设规则计算得到;若预测请求频率大于或等于第二请求频率参考值,则对微服务的资源进行横向扩容后再进行纵向调整,横向扩容的副本数量利用预测请求频率、尾部延迟目标和第一预设误差系数按第四预设规则计算得到,纵向调整后的每个副本的最大资源利用率利用预测请求频率、副本数量、资源利用率模型和第二预设误差系数按第三预设规则计算得到。

6、作为本申请的进一步改进,对微服务所占用的资源进行缩容处理,包括:利用预测请求频率、尾部延迟目标和第一预设误差系数按第四预设规则计算得到副本数量参考值;比对副本数量参考值和副本数量的大小;若副本数量参考值与副本数量相等,则对微服务的资源进行纵向缩容,纵向缩容后的资源利用率利用预测请求频率、副本数量、资源利用率模型和第二预设误差系数按第三预设规则计算得到;若副本数量参考值小于副本数量,则对微服务的资源进行横向缩容后再进行纵向调整,横向缩容后的副本数量为副本数量参考值,纵向调整后的每个副本的最大资源利用率利用预测请求频率、副本数量、资源利用率模型和第二预设误差系数按第三预设规则计算得到。

7、作为本申请的进一步改进,在离线分析阶段生成每个微服务的尾部延迟目标,具体包括:在离线分析阶段,获取每个微服务的响应时延和调用依赖图,调用依赖图根据每个微服务的调用链路生成,调用依赖图包括多个节点,每个节点对应一个微服务;根据每个微服务的响应时延确认调用依赖图中每个节点的平均响应时延;从入度为0的节点出发,遍历图中的所有路径,对路径所经过节点的平均响应时延进行累加,便得到每条路径的平均响应时延;利用每个节点的平均响应时延除以节点所在路径的平均响应时延,得到节点的延迟比例;利用延迟比例乘以预先指定的尾部延迟得到每个节点的尾部延迟目标,且当一个节点存在多个尾部延迟目标时,选择最小的尾部延迟目标作为最终的尾部延迟目标。

8、作为本申请的进一步改进,根据实时尾部延迟和尾部延迟目标调整微服务和离线业务的资源分配,包括:若存在目标微服务的实时尾部延迟大于目标微服务对应的尾部延迟目标,则将已部署的离线业务的资源减小一半;若不存在目标微服务的实时尾部延迟大于目标微服务对应的尾部延迟目标,则部署新的离线业务或增加已部署的离线业务的资源。

9、为解决上述技术问题,本申请采用的又一个技术方案是:提供一种资源管理装置,其包括:在线业务部署模块,用于当主机已部署离线业务时,若接收到部署在线业务的指令,则降低离线业务的资源分配,并为在线业务的每个微服务在当前时间段配置过量资源;预分配模块,用于基于预先训练好的预测模型预测每个微服务下一预设时间段的预测请求频率,并根据预测请求频率对每个微服务在下一预设时间段的资源进行预分配;本文档来自技高网...

【技术保护点】

1.一种资源管理方法,其特征在于,其包括:

2.根据权利要求1所述的资源管理方法,其特征在于,所述基于预先训练好的预测模型预测每个微服务下一预设时间段的预测请求频率,并根据所述预测请求频率对每个微服务在下一预设时间段的资源进行预分配,包括:

3.根据权利要求2所述的资源管理方法,其特征在于,所述根据所述当前请求频率、所述预测请求频率和每个微服务的所述尾部延迟模型、所述资源利用率模型为每个微服务预分配下一预设时间段的资源,包括:

4.根据权利要求3所述的资源管理方法,其特征在于,所述对所述微服务所占用的资源进行扩容处理,包括:

5.根据权利要求4所述的资源管理方法,其特征在于,所述对所述微服务所占用的资源进行缩容处理,包括:

6.根据权利要求1所述的资源管理方法,其特征在于,在离线分析阶段生成每个微服务的尾部延迟目标,具体包括:

7.根据权利要求1所述的资源管理方法,其特征在于,所述根据所述实时尾部延迟和所述尾部延迟目标调整所述微服务和所述离线业务的资源分配,包括:

8.一种资源管理装置,其特征在于,其包括:

9.一种计算机设备,其特征在于,所述计算机设备包括处理器、与所述处理器耦接的存储器,所述存储器中存储有程序指令,所述程序指令被所述处理器执行时,使得所述处理器执行如权利要求1-7中任一项权利要求所述的资源管理方法的步骤。

10.一种存储介质,其特征在于,存储有能够实现如权利要求1-7中任一项所述的资源管理方法的程序指令。

...

【技术特征摘要】

1.一种资源管理方法,其特征在于,其包括:

2.根据权利要求1所述的资源管理方法,其特征在于,所述基于预先训练好的预测模型预测每个微服务下一预设时间段的预测请求频率,并根据所述预测请求频率对每个微服务在下一预设时间段的资源进行预分配,包括:

3.根据权利要求2所述的资源管理方法,其特征在于,所述根据所述当前请求频率、所述预测请求频率和每个微服务的所述尾部延迟模型、所述资源利用率模型为每个微服务预分配下一预设时间段的资源,包括:

4.根据权利要求3所述的资源管理方法,其特征在于,所述对所述微服务所占用的资源进行扩容处理,包括:

5.根据权利要求4所述的资源管理方法,其特征在于,所述对所述微服务所占用的资源进行缩容处理,包括...

【专利技术属性】
技术研发人员:叶可江罗树添李想徐敏贤须成忠
申请(专利权)人:中国科学院深圳先进技术研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1