一种边缘环境中基于层共享的微服务部署方法及装置制造方法及图纸

本发明专利技术公开了一种边缘环境中基于层共享的微服务部署方法及装置，所述方法包括：(1)收集过去T时间段内的用户请求，记录各请求所需访问的微服务信息和边缘服务器信息；(2)根据采集的信息，计算出使用户请求平均访问时延最小且分配的计算资源最少的部署决策、请求路由决策和边缘服务器计算资源分配决策，将此三个决策作为结果输出；(3)根据输出的决策将相应的微服务部署在边缘服务器上，并分配边缘服务器计算资源。本发明专利技术通过利用容器的层共享的特点，并根据用户请求和微服务等信息进行计算资源分配和请求调度，在充分利用边缘服务器的存储资源和计算资源的同时，最小化用户请求平均访问时延。访问时延。访问时延。

【技术实现步骤摘要】
一种边缘环境中基于层共享的微服务部署方法及装置


[0001]本专利技术涉及边缘计算领域，具体涉及边缘环境下基于层共享的微服务部署方法及装 置。

技术介绍

[0002]随着微服务架构的广泛应用和边缘计算的兴起，为了应对飞速增长的服务和用户需 求，将微服务以容器化的形式部署于边缘环境中成为了更好的选择。与繁重的虚拟机不 同，容器与底层主机共享操作系统内核，可以实现快速部署和低性能开销。容器的另一 个优势是基于容器的微服务具有与虚拟机完全不同的结构。容器镜像是分层结构的，它 将运行时工具、系统工具、库和系统依赖等所需的项目打包在不同的独立层中。因此， 微服务镜像以层的形式存储，不同的镜像可能共享几个共同的基础层。通过这种方式， 只需要在边缘服务器上放置一份共享层，这特别适合资源有限的边缘环境。
[0003]基于以上优点将微服务以容器的方式部署在边缘服务器上是更好的选择。但是当前 容器的层共享的特点并未得到充分利用，现有工作集中在如何降低边缘服务器的系统存 储资源而忽略了用户请求时延的问题，并且并未考虑到计算资源的分配对用户时延的影 响。不合理的计算资源分配可能会导致高访问量的微服务分配较少的计算资源造成时延 的增加。

技术实现思路

[0004]专利技术目的：针对现有技术的问题，本专利技术提出一种边缘环境中基于层共享的微服务 部署方法及装置，降低用户请求时延。
[0005]技术方案：为了实现以上专利技术目的，本专利技术的技术方案如下：
[0006]一种边缘环境中基于层共享的微服务部署方法，包括以下步骤：
[0007](1)收集过去T时间段内的用户请求，记录各请求所需访问的微服务信息和边缘 服务器信息；
[0008](2)根据采集的信息，计算出使用户请求平均访问时延最小且分配的计算资源最 少的部署决策、请求路由决策和边缘服务器计算资源分配决策，将此三个决策作为结果 输出；
[0009](3)根据微服务部署策略、请求调度策略及计算资源分配策略将相应的微服务部 署在边缘服务器上，并为边缘服务器分配计算资源，使得边缘服务器在后续T时间段内 以该微服务部署方式运行。
[0010]具体地，所述步骤(1)包括：
[0011](1.1)采集T时间段内微服务层信息，每台边缘服务器只服务于本地用户请求；
[0012](1.2)记录每台边缘服务器上微服务的用户请求访问速率；
[0013](1.3)将T时间段的请求信息、微服务信息和边缘服务器信息作为步骤(2)的输 入。
[0014]进一步地，所述步骤(2)包括：
[0015]a)根据步骤(1)输入的请求信息、微服务信息和边缘服务器信息初始化微服务部 署决策、请求调度决策和计算资源分配决策；
[0016]b)迭代微服务集合，每一次迭代从微服务集合中选择一个使时延收益最大且分配 的计算资源最小的微服务，用计算出的结果更新微服务部署决策、请求调度决策和计算 资源分配决策，并将该微服务从微服务集合中删除，其中微服务m的时延收益和分配的 计算资源通过如下方法计算：计算(t1
‑
t2)/f
m
的最大值，其中t1表示未部署微服务m 的时延，t2表示部署微服务m后的时延，f
m
表示分配给微服务m的计算资源，记录时 延收益(t1
‑
t2)和分配的计算资源f
m
并通过分配的计算资源计算出可服务的请求速率；
[0017]c)重复执行b)，直至微服务集合为空时停止迭代，将得到的微服务部署策略、请 求调度策略及计算资源分配策略作为输出。
[0018]其中，所述步骤b)中未部署该微服务的时延t1＝DΛ
m
，D为云数据中心处理一个请 求的时延，Λ
m
表示边缘服务器接收到的关于所有用户给微服务m发送的请求速率之和。
[0019]其中，所述步骤b)中部署该微服务后的时延F
m
表示完成微服务m的请求所需 的计算资源。
[0020]其中，所述步骤b)中通过分配的计算资源计算出可服务的请求速率算式如下：F
m
表示完成微服务m的请求所需的计算资源。
[0021]一种边缘环境中基于层共享的微服务部署装置，包括：
[0022]信息采集模块，收集过去T时间段内的用户请求，记录各请求所需访问的微服务信 息和边缘服务器信息；
[0023]部署决策计算模块，根据采集的信息，计算出使用户请求平均访问时延最小且分配 的计算资源最少的部署决策、请求路由决策和边缘服务器计算资源分配决策，将此三个 决策作为结果输出；
[0024]部署决策执行模块，根据微服务部署策略、请求调度策略及计算资源分配策略将相 应的微服务部署在边缘服务器上，并为边缘服务器分配计算资源，使得边缘服务器在后 续T时间段内以该微服务部署方式运行。
[0025]一种计算机设备，其特征在于，包括：
[0026]存储器，存储有一个或多个计算机程序，所述一个或多个计算机程序被一个或多个 处理器执行时，致使所述一个或多个处理器执行如上所述的边缘环境中基于层共享的微 服务部署方法的步骤。
[0027]有益效果：在基于容器的微服务部署中，镜像的层共享的特点并未得到有效利用， 本专利技术将基于容器的微服务镜像的层共享的特点应用到边缘环境下的微服务部署中，并 根据用户请求和微服务等信息进行计算资源分配和请求调度，在充分利用边缘服务器的 存储资源和计算资源的同时，最小化用户请求平均访问时延。
附图说明
[0028]图1是根据本专利技术的微服务部署场景图；
[0029]图2是根据本专利技术的微服务部署时机图；
[0030]图3是根据本专利技术的微服务部署方法流程图；
[0031]图4是根据本专利技术的层感知迭代贪婪算法流程图。
具体实施方式
[0032]下面结合附图对本专利技术的技术方案作进一步说明。
[0033]基于容器的微服务在运行时，以容器镜像形式封装的微服务可能会在本地存储方面 产生巨大的开销。鉴于边缘设备存储资源和计算资源有限的问题，为了提高微服务的服 务质量，尽量减少这种开销是至关重要的。在基于容器的微服务中，有一个明显特征是， 微服务镜像是分层结构的，相同的层可以在微服务间共享。本专利技术通过利用容器的层共 享的特点，并根据用户请求和微服务等信息进行计算资源分配和请求调度，在充分利用 边缘服务器的存储资源和计算资源的同时，最小化用户请求平均访问时延。本专利技术设计 了一种启发式的层感知迭代贪婪算法，以寻求近似最优解。
[0034]图1为本专利技术的微服务部署场景，该场景由三部分组成，云数据中心、边缘服务器 和用户，其中云数据中心运行了所有的微服务。为了缓解云数据中心的负载和降低用户 访问的时延，在边缘服务器的能力范围内，将云数据中心的微服务下放到边缘服务器上， 用户可以通过连接到边缘服务器与微服务交互。本专利技术中每个边缘服务器互相独立，只 服务本地的用户本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种边缘环境中基于层共享的微服务部署方法，其特征在于，包括以下步骤：(1)收集过去T时间段内的用户请求，记录各请求所需访问的微服务信息和边缘服务器信息；(2)根据采集的信息，计算出使用户请求平均访问时延最小且分配的计算资源最少的部署决策、请求路由决策和边缘服务器计算资源分配决策，将此三个决策作为结果输出；(3)根据微服务部署策略、请求调度策略及计算资源分配策略将相应的微服务部署在边缘服务器上，并为边缘服务器分配计算资源，使得边缘服务器在后续T时间段内以该微服务部署方式运行。2.根据权利要求1所述的边缘环境中基于层共享的微服务部署方法，其特征在于，所述步骤(1)包括：(1.1)采集T时间段内微服务层信息，每台边缘服务器只服务于本地用户请求；(1.2)记录每台边缘服务器上微服务的用户请求访问速率；(1.3)将T时间段的请求信息、微服务信息和边缘服务器信息作为步骤(2)的输入。3.根据权利要求1所述的边缘环境中基于层共享的微服务部署方法，其特征在于，所述步骤(2)包括：a)根据步骤(1)输入的请求信息、微服务信息和边缘服务器信息初始化微服务部署决策、请求调度决策和计算资源分配决策；b)迭代微服务集合，每一次迭代从微服务集合中选择一个使时延收益最大且分配的计算资源最小的微服务，用计算出的结果更新微服务部署决策、请求调度决策和计算资源分配决策，并将该微服务从微服务集合中删除，其中微服务m的时延收益和分配的计算资源通过如下方法计算：计算(t1
‑
t2)/f
m
的最大值，其中t1表示未部署该微服务的时延，t2表示部署该微服务后的时延，f
m
表示分配给该微服务的计算资源，记录时延收益(t1
‑
t2)和分配的计算资源f
m
并通过分配的计算资源计算出可服务的请求速率，当...

【专利技术属性】
技术研发人员：叶保留，张远，唐斌，
申请(专利权)人：河海大学，
类型：发明
国别省市：