一种基于机器学习的微服务调度与通信优化系统技术方案

本发明专利技术提供了一种基于机器学习技术的微服务任务调度技术，可通过将数据位置及特征和计算任务类型或特征输入任务调度器，以机器学习预测的方式给出任务运行节点，该技术可支持云

【技术实现步骤摘要】
一种基于机器学习的微服务调度与通信优化系统


[0001]本专利技术属于涉及信息
，尤其是涉及一种基于机器学习的微服务调度与通信优化的方法，主要用于提升云计算和边缘计算复合环境中基于微服务应用系统的运行性能，包括数据处理吞吐率、降低通信延迟。

技术介绍

[0002]云
‑
边协同计算已经成为面向智慧城市等大规模人工智能应用的典型场景，具有数据密集、运算密集和通信密集的特点，参见图1。云计算基于传统的数据中心，满足多数据源、高计算压力需求应用，边缘计算2则侧重基于单一数据源但计算密集应用的需求。基于微服务1的应用构建，提供应用模块化实现和高可用的特点，已经成为构建大型应用系统的重要实现方式。在结合微服务的云
‑
边协同计算环境中，如何提升系统运行效率，避免通信瓶颈，实现高吞吐率的计算，特别是面向人工智能的数据处理能力，是目前智慧城市应用实现面临的技术挑战。
[0003]本项专利技术通过以基于数据源位置、运算节点位置与性能、应用计算特征、通信负载等影响基于微服务应用性能的影响因素，通过基于机器学习优化计算的方式，为应用系统集群提供动态优化任务调度策略支持，实现降低网络通信延迟、提升运算资源利用率的微服务。

技术实现思路

[0004]本专利技术提供了一种基于机器学习技术的微服务任务调度技术，可通过将数据、计算节点的位置及特征、网络系统速率与计算任务类型与特征输入任务调度器，以机器学习寻优方式给出任务的合适运行节点。该技术可以降低网络、数据I/O延迟和提升计算吞吐率为主要优化目标，为系统中运行的所有任务提供一个优化调度策略，并可根据任务数量和状态变化以准实时的方式提供策略更正。本项专利技术的运行系统是指云
‑
边协同环境，在云端和边缘端进行有效的任务调度，实现协同计算和数据处理，可将计算密集任务的效率大幅提升，而如何实现调度策略是目前的主要问题。
[0005]为实现上述目的，本项专利技术提出了一种通过机器学习优化计算，实现基于数据、计算任务类型和特征以及网络传输速率来判断微服务（即计算任务）的执行位置的技术。该技术可有效判断相对优化的任务执行位置，并能够综合考虑计算效能、数据延迟、数据本地化等性能指标，可作为智慧城市算力平台任务调度系统的策略管理插件来提升系统整体运行效率。
[0006] 本项专利技术包含3部分：1.基于微服务的应用系统的特征集合；2. 基于计算、存储和网络运行成本的应用运行成本模型；3.通过机器学习算法进行针对计算、存储和网络成本(第2部分)和其上运行的应用系统特征（第1部分），针对计算应用系统整体处理效率进行优化求解，得出优化的微服务调度策略。
附图说明
[0007]图1云
‑
边计算集群拓扑图演示；图2初始任务分布的例子；图3基于价值模型来计算优化任务调度策略(即微服务的优化调配)后的任务分布；图4 动态增加微服务或硬件资源后进行自适应调度策略调整 ；图5为执行流程图。
具体实施方式
[0008]本项专利技术的实现方式包括线下制定成本模型和线上进行资源调度策略计算两部分。线下部分讲硬件资源的计算和I/O特性建立成本表，包括：计算能力、I/O速率；同时将软件（即微服务）建立特性表，包括：I/O频率、单次I/O平均数据容量、计算能力需求。线上部分根据计算云
‑
边集群中运行的各个微服务计算任务的运行成本得出的总体运行成本进行寻优化，即需求最低运行成本，来驱动优化调度策略，即计算：r = ArgMax
1..N Sum(Fc (Hfs
i
,Sfs
i
))，这里Fc代表计算应用的成本的方程，Hfs
i
和Sfs
i
分别代表对应于第i个应用的硬件系统特征和软件系统特征集合,Sum代表总和。
[0009]基于微服务的应用系统的特征集合: Sfs应用系统特征列表如下：特征表示说明P计算能力需求Nf网络I/O频率Nv单次网络I/O容量Df存储I/O频率Dv单次存储I/O容量对于给定的微服务a，其系统特征集合Sfs ={P, Nf0, Nf
1 .. Nf
N
, Nv0, Nv
1 .. Nv
N
, Df0, Df
1 .. Df
M
, Dv0, Dv
1 .. Dv
M
},这里表示a有N个对外网络I/O通道和M个存储I/O通道。Sfs中的元素的数值具体数值可根据应用场景中收集的经验值安排。
[0010]对于不同的网络I/O通道，存在不同的优先级，因此需要一个权重向量wn = {wn1, wn
2 .. wn
N
}对应于N个对外网络I/O通道，与之类似，权重向量wd = {wd1, wd
2 .. wd
N
}对应于M个存储I/O通道。权重以浮点数来表达，Sum(wn1, wn
2 .. wn
N
)和Sum(wn1, wn
2 .. wn
N
)均为1（这里Sum表示总和），wn和wd中的元素的数值具体数值可根据应用场景中收集的经验值安排。
[0011]基于计算、存储和网络运行成本特征：Hfs特征列表如下：特征成本表示说明Pc计算节点计算能力Nc计算节点网络I/O能力Dc计算节点存储I/O能力
这里Pc、Nc、Dc分别表示计算、网络和存储所对应的成本，成本以浮点数字来表示，具体数值可根据应用场景中收集的经验值安排。
[0012]应用运行成本模型:Fc对于给定微服务a，其应用系统的特征集合: Sfs ={P，P
1 .. P
T
, Nf0, Nf
1 .. Nf
N
, Nv0, Nv
1 .. Nv
N
, Df0, Df
1 .. Df
M
, Dv0, Dv
1 .. Dv
M
}，其运行计算节点I的特征成本表示为Hfs = {Pc, Nc0, Nc
1 .. Nc
N
, Dc0, Dc
1 .. Dc
M
}, Pc对应与a所获得的计算资源，{Nc0, Nc
1 .. Nc
N
}对应于a所获得的N个网络通道，{Dc0, Dc
1 .. Dc
M }对应于a所获得的M个存储通道。由上可见a在计算节点I额特征成本Hfs由计算节点的资源分配所决定。
[0013]Fc（Hfs,Sfs）= P/Pc + Sum(Nf
i
* Nv
i * wn
i
/ Nc
i
) + Sum(Df
i
* Dv
i * wd
i
/ Dc
i
), 这里P/Pc表示完成a所需计算任务的成本，Sum(N本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于机器学习的微服务调度于通信优化系统，其特征在于建立静态化的软硬件执行成本估算模型，为进行动态调度优化提供评估基准。2.根据权利要求1所述的一种基于机器学习的微服务调度于通信优化系统，其特征在于建立与执行成本相关的软硬件特征集合，为进行成本计算提供信息。3.根据权利要求1所述的一种基于机器学习的微服务调度于通信优化系统，其特征在于通过基于机器学习寻优技术进行实现微服务任务调度策略优化。4.根据权利要求1所述的一种基于机器学习的微服务调度于通信优化系...

【专利技术属性】
技术研发人员：赵继胜，
申请(专利权)人：上海孚典智能科技有限公司，
类型：发明
国别省市：