面向边缘服务系统的长效高性能服务调度与资源分配方法技术方案

本发明专利技术涉及面向边缘服务系统的长效高性能服务调度与资源分配方法，包括：将成本效益高的边缘服务供应问题建模为一个组合优化问题，旨在在边缘计算环境中，在成本和资源限制的约束下，尽量减少平均服务响应时间。本发明专利技术的有益效果是：本发明专利技术实现了在线环境中，在满足成本和资源约束的情况下，长效平均服务响应时间的最小化，进而在边缘服务器资源受限的情况下，提升了用户的使用体验。提升了用户的使用体验。提升了用户的使用体验。

【技术实现步骤摘要】
面向边缘服务系统的长效高性能服务调度与资源分配方法


[0001]本专利技术涉及多接入边缘计算领域，更确切地说，它涉及面向边缘服务系统的长效高性能服务调度与资源分配方法。

技术介绍

[0002]随着移动服务和移动设备的快速增长，我们现在正在拥抱智能移动计算的时代。根据全球移动通信系统协会的报告，全球约有51亿人订阅了移动服务，在2025年之前，这一数字将以平均年增长率1.9％的速度增长。与此同时，到2024年，全球蜂窝式物联网连接数预计将达到32亿次。
[0003]然而，由于信道的不稳定和移动设备资源的不充足，用户有时可能无法获得高效和无缝的体验。为了解决这些相关问题，研发人员提出了多接入边缘计算(Mobile Edge Computing，MEC)这种计算范式。MEC优化了移动资源使用和无线网络，以提供上下文感知服务。在MEC范式中，用户可以通过无线网络低延迟地连接到附近的边缘服务器，并使用边缘服务器的资源来完成常规计算范式中或是使用本地资源或是使用云端资源来执行的任务。此外，借助群集管理技术(例如EdgeSite)，边缘服务器可以相互协调以充分利用计算资源，如某一边缘服务器可以将用户的请求分派给另一个可以处理该用户请求的服务器。此外，借助Kubernetes等平台即服务(PaaS)技术，即可轻松将边缘服务器资源分配给以服务为载体的计算模块。但是，这些优点不能成为在MEC环境中进行粗糙的资源分配和服务调度的原因。假设基于MEC架构的服务供应系统中，我们为热门服务分配的资源很少(例如分配了较小带宽给热门视频)，或者让不稳定的网络连接承担了大流量，又或者向拥有足够资源的服务只发送少量请求，那么该服务供应系统既不能满足用户的高质量体验需求，也不能满足服务供应方的高性能供给需求(尤其是当这些服务是使用广泛的计算密集、数据密集的AI服务时)。因此，我们必须谨慎的规划基于MEC架构的服务供应系统中的资源分配与服务调度方案。

技术实现思路

[0004]本专利技术的目的是克服现有技术中的不足，提供了面向边缘服务系统的长效高性能服务调度与资源分配方法。
[0005]第一方面，提供了面向边缘服务系统的长效高性能服务调度与资源分配方法，包括：
[0006]S1、获取边缘服务供应系统中边缘服务器到用户端的数据无线传输延迟矩阵lA；
[0007]S2、获取任意两个边缘服务器h
j
和h
k
之间的路径集合Φ
j,k
,其中表示路径集合Φ
j,k
中的第p条路径；
[0008]S3、获取任意两台边缘服务器h
j
和h
k
之间的数据传输延迟和传播延迟进一步得到关于服务请求经过边缘服务器路由的有线传输延时l
R
与回传延时l
B
(都由三维矩
阵表示)。其中，关于服务i的请求从服务器h
j
路由到服务器h
k
的有线传输延时为的有线传输延时为回传延时为
[0009]S4、获取不同边缘服务器将各类服务请求结果返回给用户的回调时延矩阵l
U
(其中，表示边缘服务器h
j
将关于服务i的服务请求结果返回给用户的传输时延)；
[0010]S5、计算在单位时间内各边缘服务器所能够处理的各任务的平均处理数矩阵γ(其中，边缘服务器h
k
对服务i的处理能力记为γ
k,i
)；其中边缘服务器对所有任务的处理能力总和要满足资源上限约束；
[0011]S6、获取各服务的请求到达各个边缘服务器的到达率，根据每个服务请求经由接入边缘服务器路由到执行边缘服务器的概率计算出每个边缘服务器实际处理的平均请求到达率，并结合单位时间内各边缘服务器所能够处理的各任务的平均处理数矩阵γ，计算出系统对每个请求的处理时延矩阵l
E
；
[0012]S7、根据所述服务请求的无线传输延迟l
A
、有线传输延时l
R
、回传延时l
B
、处理时延l
E
和回调时延l
U
获得边缘服务供应系统中任意服务请求所需要的平均处理延迟三维矩阵l；
[0013]S8、获取系统中各边缘服务器在单位时间内分配单位资源所需要消耗的成本η与总成本满足成本上限约束C
＊
，结合各服务器分配的资源μ，得到该资源分配方案下的系统总成本成本
[0014]S9、获取各服务请求的一个闭环处理在整个系统中所占的比重，并计算边缘服务供应系统的平均时延
[0015]S10、将需要考察的连续时间区间分割为多个时间片(并以任意参数配合上标t表示该参数在第t时间片内的值)，对各个时间片的平均时延进行平均得到目标函数示该参数在第t时间片内的值)，对各个时间片的平均时延进行平均得到目标函数
[0016]S11、对目标函数进行最小化求解，以求得三维矩阵矩阵μ和矩阵
[0017]S12、根据三维矩阵矩阵μ和矩阵进行对每个边缘服务器针对每一种服务提供处理能力的资源分配，设置将每种服务请求路由到其他边缘服务器的概率参数以及对路径的选择概率。
[0018]作为优选，S1中，数据传输延迟矩阵l
A
的每行对应一个服务，每列对应一台边缘服务器，每个元素由服务平均输入数据大小d
I
与边缘服务器和使用该服务的客户端间的数据传输速率v相除得到。
[0019]作为优选，S3中，l
R
与l
B
均为三维矩阵，其中每个元素为关于服务i的请求经由边缘服务器j路由到边缘服务器h
k
时所产生的数据传输延迟；l
R
为输入数据在边缘服务器之间的传输延迟，l
B
为输出数据的总传输延迟。
[0020]作为优选，S5中，矩阵γ的第k行第i列元素γ
k,i
为边缘服务器h
k
对服务i的处理能力，其数值由边缘服务器h
k
分配给服务i的资源μ
k,i
除以每个服务所需的资源数w
i
计算得到；μ
k,i
满足约束条件：其中即为边缘服务器h
k
的负载上限。
[0021]作为优选，S6中，为一个三维矩阵，其中元素为关于服务i的请求经由边缘服
务器j路由到边缘服务器h
k
进行处理的概率且满足并有约束
[0022]作为优选，S7中，任意服务请求所需要的处理延迟l
i,j,k
包括：用户发起请求至接入服务器的时间接入服务器选择路径p转发至执行服务器的时长请求的处理时延服务器h
k
至h
j
的回传时延和服务器h
j
回传至用户的时延
[0023]作为优选，S9中，各服务请求的一个闭环处理在整个系统中所占本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.面向边缘服务系统的长效高性能服务调度与资源分配方法，其特征在于，包括：S1、获取边缘服务供应系统中边缘服务器到用户端的数据无线传输延迟矩阵l
A
；S2、获取任意两个边缘服务器h
j
和h
k
之间的路径集合Φ
j,k
，其中表示路径集合Φ
j,k
中的第p条路径；S3、获取任意两台边缘服务器h
j
和h
k
之间的数据传输延迟和传播延迟进一步得到关于服务请求经过边缘服务器路由的有线传输延时l
R
与回传延时l
B
；其中，关于服务i的请求从服务器h
j
路由到服务器h
k
的有线传输延时为回传延时为S4、获取不同边缘服务器将各类服务请求结果返回给用户的回调时延l
U
；S5、计算在单位时间内各边缘服务器所能够处理的各任务的平均处理数矩阵γ；其中边缘服务器对所有任务的处理能力总和要满足资源上限约束；S6、获取各服务的请求到达各个边缘服务器的到达率，根据每个服务请求经由接入边缘服务器路由到执行边缘服务器的概率θ，计算出每个边缘服务器实际处理的平均请求到达率，并结合单位时间内边缘服务器所能够处理的各任务的平均处理数矩阵γ，计算出系统对每个请求的处理时延矩阵l
E
；S7、根据所述服务请求的无线传输延迟l
A
、有线传输延时l
R
、回传延时l
R
、处理时延l
E
和回调时延l
U
获得边缘服务供应系统中任意服务请求所需要的平均处理延迟三维矩阵l；S8、获取系统中各边缘服务器在单位时间内分配单位资源所需要消耗的成本η与总成本满足成本上限约束C
★
，结合各服务器分配的资源μ，得到该资源分配方案下的系统总成本分配的资源μ，得到该资源分配方案下的系统总成本S9、获取各服务请求的一个闭环处理在整个系统中所占的比重，并计算边缘服务供应系统的平均时延S10、将需要考察的连续时间区间分割为多个时间片，并以任意参数配合上标t表示该参数在第t时间片内的值，对各个时间片的平均时延进行平均得到目标函数参数在第t时间片内的值，对各个时间片的平均时延进行平均得到目标函数S11、对目标函数进行最小化求解，以求得三维矩阵矩阵μ和矩阵θ；S12、根据三维矩阵矩阵μ和矩阵θ，进行对每个边缘服务器针对每一种服务提供处理能力的资源分配，设置将每种服务请求路由到其他边缘服务器的概率参数以及对路径的选择概率。2.根据权利要求1所述的面向边缘服务系统的长效高性能服务调度与资源分配方法，其特征在于，S1中，数据传输延迟矩阵l
A
的每行对应一个服务，每列对应一台边缘服务器，每个元素由服...

【专利技术属性】
技术研发人员：向正哲，郑宇航，何梦竹，郑增威，
申请(专利权)人：浙大城市学院，
类型：发明
国别省市：