基于深度强化学习的MEC计算卸载与资源分配方法组成比例

技术编号:30548176 阅读:24 留言:0更新日期:2021-10-30 13:27
本发明专利技术公开了一种基于深度强化学习的移动边缘计算MEC的计算卸载与资源分配方法,为移动用户设备提供了一种最优的计算卸载与资源分配方案。在整体卸载条件下,对其构建处理计算移动用户设备计算任务的计算执行模型,然后根据最小化系统总开销的优化目标构建所有移动用户设备系统总开销的问题模型,利用深度强化学习方法确定最小的系统总开销。考虑到时变的MEC系统中实际的计算卸载与资源分配特性,任务时延阈值与系统计算资源的约束,本发明专利技术采用的是结合强化学习与深度学习的DQN算法,利用深度神经网络DNN来近似估计状态

【技术实现步骤摘要】
基于深度强化学习的MEC计算卸载与资源分配方法


[0001]本专利技术属于移动通信
,具体涉及一种基于深度强化学习的MEC计算卸载与资源分配方法。

技术介绍

[0002]随着5G(5th Generation Mobile Communication Technology)网络技术的不断发展,未来网络中的应用,例如交互游戏、自动驾驶、增强现实、虚拟现实,这些应用都需要强大的计算能力,在极短的时间内完成大量的计算。受限于移动设备的计算能力与电池容量,使之无法获得良好的用户体验。在这种情况,计算卸载的概念被提出,指用户设备处理某些计算量庞大的应用时,在权衡延迟或者能耗等指标的情况下,将处理这些应用的数据通过无线信道上传到边缘服务器上,来减少任务完成时间和降低移动设备能耗。
[0003]5G应用推动了移动云计算MCC(Mobile Cloud Computing)概念的发展,移动用户设备可以利用强大的远程集中云的计算和存储资源来实现访问,但过多的使用可能会在数据交换时发生堵塞导致产生很长的等待时间。因此新的计算范式被提出—移动边缘计算M本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于深度强化学习的MEC计算卸载与资源分配方法,其特征在于,包括如下步骤:步骤1,建立多移动用户设备多MEC服务器的通信模型该通信模型由一个演进式基站、多个MEC服务器和多个移动用户设备构成;其中移动用户设备以无线网络的方式连接到演进式基站,MEC服务器部署在演进式基站附近,为移动用户设备提供计算服务;每个移动用户设备的计算任务选择在本地终端进行计算处理,或选择通过演进式基站接入,然后再传给相应的MEC服务器进行计算处理;步骤2,建立处理计算移动用户设备计算任务的计算执行模型假设每个移动用户设备都有一个计算任务其中A
n
表示完成计算任务所需的输入数据的大小,其中包括了程序代码和输入参数。L
n
表示完成计算任务所需的CPU周期总数,反映了完成计算任务R
n
所需的计算资源数。表示计算任务R
n
的最大可容忍延迟,即完成每个计算任务的总用时不应超过最大可容忍延迟对移动用户设备的计算任务建立计算执行模型,移动用户设备选择在本地终端处理任务或者选择计算卸载方式处理任务;2.1移动用户设备选择本地终端处理计算任务的本地计算执行模型建立移动用户设备选择本地终端处理计算任务R
n
时,其本地计算执行的开销包含执行延迟与能量消耗定义为移动用户设备的本地计算能力,其单位用每秒的CPU周期数来表示,不同移动用户设备的计算能力是有区别的;则本地终端处理计算任务R
n
的执行延迟如式(1)所示:本地终端处理计算任务R
n
的能量消耗如式(2)所示:上式中z
n
是能耗密度,并且不同种设备之间的参数差距小;综合考虑本地计算执行的执行延迟和能量消耗,移动用户设备在本地计算执行的总开销如式(3)所示:式中0≤θ1,θ2≤1分别表示移动用户设备的执行延迟和能耗的权重参数;式(1)、式(2)、式(3)构成了移动用户设备选择本地终端处理计算任务的本地计算执行模型;2.2移动用户设备选择计算卸载方式处理计算任务的卸载计算执行模型建立移动用户设备选择计算卸载方式处理计算任务R
n
时,整个过程包含三部分:首先移动用户设备需要传输完成计算任务的数据到演进式基站,再由演进式基站转给MEC服务器;其次是MEC服务器分配一定的计算资源来执行计算任务;最后再由MEC服务器将执行结果返还给移动用户设备;移动用户设备能实现的数据上传速率r
m
如式(4)所示:
其中Q为无线信道带宽,K代表移动用户设备数量,P
n
为上传数据时移动用户设备的传输功率,h
n
为分配给移动用户设备的无线信道增益,N0为复杂高斯白噪声信道的方差;由上所述第一部分是传输输入产生的传输延迟如式(5)所示:此过程所对应的能量消耗如式(6)所示:其中:A
n
为完成计算任务R
n
所需的输入数据的大小;第二部分是MEC服务器处理计算任务的处理延迟,定义f
n,m
是MEC服务器为移动用户设备分配的计算资源,其处理延迟如式(7)所示:在MEC服务器执行计算的这段时间内,移动用户设备处于等待接收的状态,设此状态下移动用户设备的闲置功率为则这段时间内的能量消耗如式(8)所示:对于最后一部分,完整的卸载计算过程,计算卸载执行延迟和计算卸载能量消耗如式(9)和(10)所示:如式(9)和(10)所示:综上所述,对于选择卸载计算的移动用户设备,其计算...

【专利技术属性】
技术研发人员:刘迪杨东李哲毓毕玉冰刘超飞王文庆崔逸群朱博迪肖力炀刘骁崔鑫
申请(专利权)人:西安热工研究院有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1