面向边缘服务器的高效任务调度方法、系统及电子设备技术方案

技术编号:35857782 阅读:11 留言:0更新日期:2022-12-07 10:45
本发明专利技术公开了一种面向边缘服务器的高效任务调度方法、系统及电子设备,方法包括:获取当前任务队列中每个计算任务的属性特征信息Job以及当前边缘服务器的环境信息Cluster;将任务队列中的每个任务的属性特征信息Job进行统计得出的值x1与服务器环境信息的值x2作为预先设立的深度多核学习模型M的输入值X,将输入值X输入到深度多核学习模型M进行分类,M的输出为调度模型库中最适合当前环境下的最优任务调度模型Best

【技术实现步骤摘要】
面向边缘服务器的高效任务调度方法、系统及电子设备


[0001]本专利技术涉及机器学习技术和深度学习的
,具体涉及一种面向边缘服务器的高效任务调度方法、系统及电子设备。

技术介绍

[0002]云计算作为目前互联网企业提供的众多业务中最重要部分之一,可以根据用户的需求随时向其提供无限的计算资源,而用户只需要为使用的计算服务付费。同时,云数据中心还能够提供各种容器管理服务,资源池服务,托管服务等等。
[0003]然而近些年来随着5G技术和智能物联网(IIOT)的飞速发展,诞生了大量的终端设备,据有关数据机构IDC的统计于2020年底就有不下500亿的智能终端设备连入互联网。在这样的场景下,传统的云计算框架受限于地域、带宽等因素将无法满足这些海量设备对计算服务实时性的要求,出现数据传输慢、计算延迟高等一系列问题。特别是像VR游戏,无人驾驶,智能家居等对计算延迟要求非常高的计算任务让云计算框架变得不在适用。
[0004]为此,众多互联网企业提供了一套新的计算体系

云边端协同计算架构。该体系主张算力下沉,在云数据中心与智能终端之间添加了由众多边缘节点组成的边缘网络,拉近计算资源与客户的距离。与传统云计算框架不同,此架构下的智能终端不再需要将计算任务和数据全部上传到云端,只需通过部署在网络边缘的边缘节点就能快速处理计算任务,云端则只需要定期对众多边缘节点进行调度、管理、协同统一等工作,进而大幅度的减轻了网络带宽的压力,也大大降低了计算延迟。
[0005]尽管边缘服务器,例如华为Atlas系列目前在理论上能够在降低计算服务延迟方面有很大的突破,但边缘服务器仍然因为其本身搭载的计算资源极度有限、计算资源利用率低、异构计算资源不能协同统一、边缘节点太多需要维护的人工成本高等原因,实际情况下还是会出现数据传输慢、计算延迟高等一系列问题。为此,近些年技术人员基于深度学习和强化学习技术提出了如优化服务器的资源利用率,计算任务的平均等待时间,服务器能耗等指标的任务调度模型来供服务器使用。例如电子科技大学提出的基于深度蒙特卡洛树搜索(DNN,MCTS,LSTM相互协作)的边缘计算任务分配方法,以支持边缘服务器对资源分配的优化;国防科技大学提出的一种强化学习的深度学习任务调度方法,面向深度学习多任务调度场景,基于任务在线性能反馈,自适应学习并调整调度策略;重庆工程学院提出的边缘计算的物联网深度学习及任务卸载调度策略,优化网络性能,保护数据上传中的用户隐私;陕西师范大学等单位合作提出的面向边缘设备的高能效深度学习任务调度策略,通过协同移动设备与边缘服务器,充分利用智能移动终端的便捷性和边缘服务器能力,完成深度学习模型在2种设备上的动态部署。
[0006]理论上,上述模型实现服务器性能升级的同时却忽略了这些模型过于复杂本身对机器的算力有着高要求和消耗。例如华为Atlas200DK上仅仅只搭载了2张NPU推理卡,如果调度程序本身就需要占用一张NPU推理卡,那留给计算任务的计算资源就会非常紧张,仍然会造成计算任务计算延迟高的问题,而例如基于启发式学习的传统调度模型的性能又不能
满足边缘服务器的性能需求,这些问题都是边缘服务器所不能承担的。

技术实现思路

[0007]本专利技术的主要目的在于克服现有技术的缺点与不足,提供一种面向边缘服务器的高效任务调度方法、系统及电子设备,在边缘服务器资源有限的条件下,无需特殊AI芯片的支持就能快速准确的完成任务调度和资源分配,提高边缘服务器计算资源的利用率。
[0008]为了达到上述目的,本专利技术采用以下技术方案:
[0009]本专利技术一方面提供了一种面向边缘服务器的高效任务调度方法,包括下述步骤:
[0010]当计算任务队列传输到调度程序时,提前获取当前任务队列中每个计算任务的属性特征信息Job以及当前边缘服务器的环境信息Cluster,所述属性特征信息Job包括:计算任务在不同计算芯片上运行的时间、计算任务在不同芯片上运行所造成的能耗、计算任务在不同芯片上运行所需要的内存大小以及计算任务在不同芯片上运行所需要的计算节点个数;所述环境信息Cluster包括:服务器上不同计算芯片的空闲计算节点、服务器上不同计算芯片的空闲内存以及服务器当前时间段的能耗;
[0011]将任务队列中的每个任务的属性特征信息Job进行统计得出的值x1与服务器环境信息的值x2作为预先设立的深度多核学习模型M的输入值X,其中X={x1,x2};所述预先设立的深度多核学习模型M的拓扑结构呈网络状,由输入层、L层隐层以及输出层组成,每一层隐层最多包含了m个基础核函数,所述基础核函数用于计算从上层以及之前层传来的数据,并将计算结果输出给后续隐层;输出层为基于m个基础核函数中的某一个核函数训练而成的SVM分类器,由前往后,基础核函数之间带权重相连,并存在跨层连接;
[0012]将输入值X输入到所述深度多核学习模型M进行分类,该深度多核学习模型M的输出为调度模型库中最适合当前环境下的最优任务调度模型Best
model

[0013]将当前任务队列的调度任务属性特征信息Job输入到最优任务调度模型Best
model
,完成当前计算任务的调度工作。
[0014]优选的,所述任务队列中的每个任务的属性特征信息Job进行统计得出的值x1包括:
[0015]任务队列中所有任务在不同芯片上单独运行所造成的能耗平均值Avg
e
,最大值Max
e
,方差Var
e

[0016]任务队列中所有任务在不同芯片上所需要的计算节点平均值Avg
n
,最大值Max
n
,方差Var
n

[0017]任务队列中所有任务在不同芯片上所需要的计算内存平均值Avg
m
,最大值Max
m
,方差Var
m

[0018]优选的,所述基础核函数包括线性核函数、高斯核函数、多项式核函数和Sigmoid核函数。
[0019]优选的,所述调度模型库通过预先训练建立,基于启发式学习、传统机器学习以及轻量级神经网络针对边缘服务器环境信息Cluster和属性特征信息Job训练出各种轻量级调度模型,形成调度模型库。
[0020]优选的,所述针对边缘服务器环境信息Cluster和属性特征信息Job训练出各种调度模型,其中训练目标主要为:
[0021]最小化平均任务等待时间wait、最小化服务器能耗energy、最小化平均任务响应时间response以及最大化服务器资源利用率usage。
[0022]优选的,所述深度多核学习模型M为预先训练好的,训练方式如下:
[0023](1)将服务器的历史任务队列数据统计形成训练数据History
X
={X1,X2,X3,

,X
h
},其中h为历史数据的个数,表示h个本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种面向边缘服务器的高效任务调度方法,其特征在于,方法包括下述步骤:当计算任务队列传输到调度程序时,提前获取当前任务队列中每个计算任务的属性特征信息Job以及当前边缘服务器的环境信息Cluster,所述属性特征信息Job包括:计算任务在不同计算芯片上运行的时间、计算任务在不同芯片上运行所造成的能耗、计算任务在不同芯片上运行所需要的内存大小以及计算任务在不同芯片上运行所需要的计算节点个数;所述环境信息Cluster包括:服务器上不同计算芯片的空闲计算节点、服务器上不同计算芯片的空闲内存以及服务器当前时间段的能耗;将任务队列中的每个任务的属性特征信息Job进行统计得出的值x1与服务器环境信息的值x2作为预先设立的深度多核学习模型M的输入值X,其中X={x1,x2};所述预先设立的深度多核学习模型M的拓扑结构呈网络状,由输入层、L层隐层以及输出层组成,每一层隐层最多包含了m个基础核函数,所述基础核函数用于计算从上层以及之前层传来的数据,并将计算结果输出给后续隐层;输出层为基于m个基础核函数中的某一个核函数训练而成的SVM分类器,由前往后,基础核函数之间带权重相连,并存在跨层连接;将输入值X输入到所述深度多核学习模型M进行分类,该深度多核学习模型M的输出为调度模型库中最适合当前环境下的最优任务调度模型Best
model
;将当前任务队列的调度任务属性特征信息Job输入到最优任务调度模型Best
model
,完成当前计算任务的调度工作。2.根据权利要求1所述面向边缘服务器的高效任务调度方法,其特征在于,所述任务队列中的每个任务的属性特征信息J0b进行统计得出的值x1包括:任务队列中所有任务在不同芯片上单独运行所造成的能耗平均值Avg
e
,最大值Max
e
,方差Var
e
;任务队列中所有任务在不同芯片上所需要的计算节点平均值Avg
n
,最大值Max
n
,方差Var
n
;任务队列中所有任务在不同芯片上所需要的计算内存平均值Avg
m
,最大值Max
m
,方差Var
m
。3.根据权利要求1所述面向边缘服务器的高效任务调度方法,其特征在于,所述基础核函数包括线性核函数、高斯核函数、多项式核函数和Sigmoid核函数。4.根据权利要求1所述面向边缘服务器的高效任务调度方法,其特征在于,所述调度模型库通过预先训练建立,基于启发式学习、传统机器学习以及轻量级神经网络针对边缘服务器环境信息Cluster和属性特征信息Job训练出各种轻量级调度模型,形成调度模型库。5.根据权利要求1所述面向边缘服务器的高效任务调度方法,其特征在于,所述针对边缘服务器环境信息Cluster和属性特征信息Job训练出各种调度模型,其中训练目标主要为:最小化平均任务等待时间wait、最小化服务器能耗energy、最小化平均任务响应时间response以及最大化服务器资源利用率usage。6.根据权利要求1所述面向边缘服务器的高效任务调度方法,其特征在于,所述深度多核学习模型M为预先训练好的,训练方式如下:(1)将服务器的历史任务队列数据统计形成训练数据History
X
={X1,X2,X3,...,X
h
},其中h为历史数据的个数,表示h个时段;
(2)通过人为判断从调度模型库中选择最适合X
i
的调度模型,并将其序号作为标签Y
i
对应出每一个时段的数据X
i
,形成标签History
Y
={Y1...

【专利技术属性】
技术研发人员:林伟伟沈王博
申请(专利权)人:华南理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1