动态微服务图部署和概率请求路由的联合优化方法及系统技术方案

技术编号:40634228 阅读:17 留言:0更新日期:2024-03-13 21:18
本申请提供了动态微服务图部署和概率请求路由的联合优化方法及系统,方法包括以下步骤:获取用户请求集合、微服务的部署位置以及实例部署矩阵;基于紧微服务实例确定算法计算获取每个请求的所有微服务在时隙内实例化所需的最小核心数量集合;根据微服务的部署位置、实例部署矩阵以及最小核心数量集合,基于累积公平路由算法,获取所有请求的路由概率矩阵集合和所有微服务的实例部署集合;输入所有请求的路由概率矩阵集合和所有微服务的实例部署集合至近端策略优化框架执行多实例细粒度编排联合优化训练,获取所有请求的最优的微服务部署和请求路由的联合决策。本申请实现高效的微服务部署和请求路由,以优化资源利用率、降低成本、提升用户体验。

【技术实现步骤摘要】

本申请涉及微服务,具体涉及动态微服务图部署和概率请求路由的联合优化方法及系统


技术介绍

1、云应用供应在组织架构上正逐渐开始从单体式转变到轻量且松耦合的微服务。基于微服务的在线应用被解耦成上千个细小的可互相通信的单元/组件的集合,为时延敏感型的应用提供高质量的,迅速的服务响应。与传统的单体式应用相比,运行在容器中的微服务具有易独立部署,易扩展性和高可靠性等优点。

2、随着性能需求的动态变化,用户请求会被不同的微服务的集合处理,这些微服务通过rpc或者其他暴露的接口进行频繁的数据通信,进而形成了动态微服务调用图。一些关键的微服务节点会同时出现在多样化的调用图中,因此,对应的微服务实例能够为事变的用户请求提供稳定的服务供应,这导致了独特的微服务复用和多实例服务分布。服务需求和负载的变化以及动态的微服务复用加剧了微服务间数据依赖的复杂程度和严重的资源浪费。

3、当前,微服务容器化实例的部署与细粒度的请求路由相互影响且是紧耦合的,这给微服务管理和负载管控带来了巨大的挑战。

4、一方面,微服务部署的有效性极其依赖于动态微服务特征本文档来自技高网...

【技术保护点】

1.一种动态微服务图部署和概率请求路由的联合优化方法,其特征在于,包括以下步骤:

2.如权利要求1所述的动态微服务图部署和概率请求路由的联合优化方法,其特征在于,所述基于紧微服务实例确定算法计算获取用户请求集合中的每个请求的所有微服务在时隙内实例化所需的最小核心数量集合步骤包括:

3.如权利要求2所述的动态微服务图部署和概率请求路由的联合优化方法,其特征在于,所述根据获取的比对工况,控制执行不同的最小核心数量集合的获取策略包括:

4.如权利要求1所述的动态微服务图部署和概率请求路由的联合优化方法,其特征在于,所述根据微服务的部署位置、实例部署矩阵以及最...

【技术特征摘要】

1.一种动态微服务图部署和概率请求路由的联合优化方法,其特征在于,包括以下步骤:

2.如权利要求1所述的动态微服务图部署和概率请求路由的联合优化方法,其特征在于,所述基于紧微服务实例确定算法计算获取用户请求集合中的每个请求的所有微服务在时隙内实例化所需的最小核心数量集合步骤包括:

3.如权利要求2所述的动态微服务图部署和概率请求路由的联合优化方法,其特征在于,所述根据获取的比对工况,控制执行不同的最小核心数量集合的获取策略包括:

4.如权利要求1所述的动态微服务图部署和概率请求路由的联合优化方法,其特征在于,所述根据微服务的部署位置、实例部署矩阵以及最小核心数量集合,基于累积公平路由算法,获取所有请求的路由概率矩阵集合和所有微服务的实例部署集合步骤包括:

5.如权利要求4所述的动态微服务图部署和概率请求路由的联合优化方法,其特征在于,所述根据微服务的部署位置以及...

【专利技术属性】
技术研发人员:徐焕王晨昕查志勇陈家璘彭凯李晶代荡荡胡毅魏晓燕胡峻国邓天平吴耿董晨曦郭佳璐刘忠佩胡梦兰
申请(专利权)人:国网湖北省电力有限公司信息通信公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1