一种基于深度强化学习的边缘计算任务卸载方法技术

技术编号:38674731 阅读:34 留言:0更新日期:2023-09-02 22:50
本发明专利技术提供了一种基于深度强化学习的边缘计算任务卸载方法,用于解决边缘计算环境中信道不稳定条件下具有多个终端设备的计算卸载问题,该方法以系统的平均任务处理时延、能量消耗和任务成功率为联合评价指标。首先建立以高效可靠的DQUIC(DynamicQuickUDP InternetConnections)协议进行卸载通信的三层计算卸载模型,然后基于深度强化学习方法求解最优任务卸载策略,最后依据最优卸载策略进行计算卸载。本发明专利技术能够有效解决边缘计算环境中信道不稳定条件下具有多个终端设备的计算卸载问题。卸载问题。卸载问题。

【技术实现步骤摘要】
一种基于深度强化学习的边缘计算任务卸载方法


[0001]本专利技术涉及一种基于深度强化学习的边缘计算任务卸载方法,属于物联网与人工智能


技术介绍

[0002]近年来,互联网技术和第五代无线通信技术的高速发展给人们的社会生活带来了巨大变化。5G所具有的高速率,低时延等特点使得物联网走进千家万户。物联网技术与5G技术的发展,催生了一系列计算密集型和时延敏感型任务的出现,这些新兴应用都要求实时、快速地处理应用程序生成的大量数据,并且对时延性能有相对严格的要求。为了应对这一挑战,人们提出了计算卸载策略。在传统的移动云计算中,边缘侧的设备可以将部分或者全部计算任务卸载至配有高计算能力的云服务中心进行处理。但是,云计算中心与移动侧设备距离过长,这导致设备卸载计算数据到云的过程不但花费巨大的通信开销,且带来了过长的响应时间。而移动边缘计算作为5G异构网络中一种很有前途的计算范式,已经被人们提出以解决上述的问题,它的核心思想是利用无线通信技术利用就近的计算资源为移动用户提供网络服务。当终端设备因为电池、存储容量、计算能力等因素难以本地处理计算任务时,本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于深度强化学习的边缘计算任务卸载方法,其特征在于,包括如下步骤:步骤1:建立以DQUIC协议进行卸载通信的三层计算卸载模型;步骤2:基于深度强化学习方法求解最优计算卸载策略;步骤3:依据最优卸载策略进行计算卸载。2.根据权利要求1所述的基于深度强化学习的边缘计算任务卸载方法,其特征在于,所述步骤1包括如下子步骤:步骤1.1:首先建立三层卸载模型,包含用户局部计算模型,用户到服务器模型,用户到用户模型;步骤1.2:将模型中所有无线通信的信息使用DQUIC协议进行封装,设备首先根据前N个时间片内的信道信息对本时间片内的丢包率进行预测,得到预测的丢包数量c后,将连续的数据包以c为一组,离散到c个不同的编码包中异或编码,然后进行计算卸载。3.根据权利要求2所述的基于深度强化学习的边缘计算任务卸载方法,其特征在于,所述步骤1.1中三层模型具体包括:(1)本地计算假设每个边缘侧设备的设备拥有不同的计算能力,表示为边缘侧设备U
i
的计算能力,则本地计算消耗的时间为:本地计算消耗的能量为:α
i
代表边缘侧设备U
i
的设备每个CPU周期消耗的能量,(2)卸载至边缘计算服务器计算当MEC用户因电池或者计算资源的限制难以本地处理计算任务时,MEC设备可以考虑选择将任务卸载至边缘计算服务器进行计算,则该任务卸载计算的总时间为:T
server
=T
tran
+T
proc
+βTT
tran
表示MEC用户向边缘计算服务器卸载的传输时间,β为小于分包数量的自然数,表示需要回传的数据包的数量,βT表示处理丢包消耗的回传总时间;假设边缘计算服务器S
j
同时接收的请求数量为C,总带宽B根据同时到来的任务请求被平均划分为C个子信道;则对于该设备的任意子信道c,用户U
i
向服务器S
j
卸载的传输速率由香农公式计算为:L
i,j
是用户U
i
的发射功率,是用户U
i
与服务器S
j
使用子信道c进行通信的信道增益,σ2和分别为高斯白噪声与信道中的干扰;在一个时间片T内用户U
i
可以向服务器S
j
发送的最大数据量为:最大数据量为:表示设备i与设备j使用子信道c通信的数据传输速率,考虑信道的不稳定性,假设传
输信道有概率为γ的数据损失率,γ∈[0,1];使用DQUIC协议来控制数据传输过程,数据帧头部的大小固定为15

20字节,将其标识为P
head
,依据该任务需要发送的任务数据总量可以计算出用户U
i
发送该任务所需要的时间为:发送该任务所需要的时间为:表示为边缘计算服务器的计算能力,则卸载至服务器计算消耗的时间为:假设服务器的发射功率较大,数据传输速率较快,且服务器回传信息较少所以忽略服务器的回传请求发送时间;在卸载至边缘计算服务器的计算模式中,设备的能耗主要来自发送卸载数据产生的能耗,其表达式为:E
...

【专利技术属性】
技术研发人员:杨鹏马若辰易梦梁增玉
申请(专利权)人:浙江华巽科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1