一种基于负载预测和强化学习的微服务管理方法技术

技术编号:40223814 阅读:18 留言:0更新日期:2024-02-02 22:28
本发明专利技术公开了一种基于负载预测和强化学习的微服务管理方法,属于微服务资源管理领域。首先通过数据收集系统收集每个周期平台中各个微服务的调用次数和平均响应时间作为指标,并按结构化的形式,存储至时序数据库中。然后负载预测模块利用存储的时序数据获取各个微服务调用率数据,并对下一个时间周期的各微服务调用率进行预测,将预测结果输入强化学习智能体,对强化学习智能体进行训练,通过训练后的策略网络输出扩缩决策。最后水平扩缩控制器按照强化学习智能体输出的扩缩决策,对相应微服务副本数量进行调整,增加、减少或保持其副本数量。本发明专利技术可以帮助智能体更好地决策,避免用户请求响应时间短时间内恶化的抖动现象。

【技术实现步骤摘要】

本专利技术属于微服务资源管理领域,具体涉及一种基于负载预测和强化学习的微服务管理方法


技术介绍

1、在微服务支撑平台中,面向海量微服务的复杂场景,管理目标主要考虑以下两个方向:

2、第一个方向是优化时间指标:在微服务领域,时间指标主要指对用户请求的响应时间,也代表了微服务应用的性能。当微服务应用负载过重时,来自用户的请求可能得不到高效的处理,从而导致用户请求响应时间的延长。通常用户与云平台提供商会就sla(service level agreement,服务水平协议)达成统一,如99%的服务响应时间小于1ms。优化响应时间的目标即尽力避免违反sla的情况出现。

3、第二个方向是优化资源使用:在微服务领域,资源使用主要指整个微服务系统平台中的cpu和内存资源。

4、如何在保证微服务响应时间的前提下,尽可能节约资源是长期的研究问题。

5、对微服务执行水平扩缩是可靠的研究方向之一:在微服务资源紧张,导致响应时间恶化的情况下,增加微服务的副本数量,提高其可用资源,能有效保障微服务的时间指标;当用户请求稀少时,通过减本文档来自技高网...

【技术保护点】

1.一种基于负载预测和强化学习的微服务管理方法,其特征在于,具体步骤如下:

2.根据权利要求1所述的一种基于负载预测和强化学习的微服务管理方法,其特征在于,所述指标的结构化形式包括名称name、标签label、时间戳timestamp和相应指标数值value,并将标签用于对同一指标在不同情况下的分类,具体表示为name{label=`标签值`}value timestamp。

3.根据权利要求1所述的一种基于负载预测和强化学习的微服务管理方法,其特征在于,所述负载预测模块进行微服务调用率预测的步骤如下:

4.根据权利要求3所述的一种基于负载预测和强化学...

【技术特征摘要】

1.一种基于负载预测和强化学习的微服务管理方法,其特征在于,具体步骤如下:

2.根据权利要求1所述的一种基于负载预测和强化学习的微服务管理方法,其特征在于,所述指标的结构化形式包括名称name、标签label、时间戳timestamp和相应指标数值value,并将标签用于对同一指标在不同情况下的分类,具体表示为name{label=`标签值`}value timestamp。

3.根据权利要求1所述的一种基...

【专利技术属性】
技术研发人员:吴文峻丁嵘杨开元陈睿博
申请(专利权)人:北京航空航天大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1