System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种贪婪DDPG协同卸载决策与资源分配方法组成比例_技高网

一种贪婪DDPG协同卸载决策与资源分配方法组成比例

技术编号:40656228 阅读:6 留言:0更新日期:2024-03-13 21:33
本发明专利技术涉及边缘计算技术领域,具体涉及一种贪婪DDPG协同卸载决策与资源分配方法,针对超密集边缘计算(UDN‑MEC)场景的计算卸载求解过程中难以适应用户在微基站覆盖区内外的频繁切换的问题,利用贪婪算法分布式地获得用户个体收益,并通过全局收益阈值描述用户个体间基于全局协同感知的协作行为,克服了用户在微基站间频繁切换导致的用户数量时变性对卸载决策的影响,以及分布式单智能体方法中不同智能体间缺乏合作的缺点,同时通过DDPG算法智能地调整全局收益阈值,提升所提算法对用户数量动态变化的适应能力,降低动态异构的UDN‑MEC系统中的时延与能耗加权总成本。

【技术实现步骤摘要】

本专利技术涉及边缘计算,具体涉及一种贪婪ddpg协同卸载决策与资源分配方法。


技术介绍

1、近年来,无论是在计算卸载、资源分配,还是时延和能耗的优化等方面,虽然对移动边缘计算(mobile edge computing,mec)进行了较多研究,但是在超密集异构蜂窝网络场景中的研究还是较少。超密集异构蜂窝网络边缘计算场景(udn-mec)中,采用改进天牛须算法求解计算卸载策略,能够在低复杂度的要求下最大化系统收益。采用改进粒子群优化算法求解计算卸载策略能够缓解5g通信场景中部署mec服务器导致的系统延迟和能耗增加问题。然而,在每次迭代中,天牛须算法和粒子群等智能算法都需要与udn-mec环境模型交互,因此在求解卸载决策时需要消耗大量的算力。启发式贪婪卸载方案能够分布式地求解udn-mec场景的计算卸载问题,然而缺乏全局视野和协作行为,只能求解出局部最优解。多智能体强化学习方法能够增强用户的全局视野和协作行为,然而用户在微基站覆盖区内外的频繁切换,会导致微基站覆盖区内的用户数量具有时变性,多智能体强化学习方法难以适应该类动态环境;分布式单智能体方法能够适应用户数量的动态变化,然而单智能体之间往往独立进行决策,缺少不同单智能体间的合作与通信;因此,面对udn-mec场景中多用户频繁切换微基站的情形,如何在适应用户数量的动态变化的同时,对卸载决策和资源分配进行求解是一项关键挑战。


技术实现思路

1、本专利技术的目的在于提供一种基贪婪ddpg协同卸载决策与资源分配方法,旨在解决udn-mec场景中,用户终端有限的算力和能量资源不能满足用户计算密集型和时延敏感型任务的需求的技术问题,消除微基站覆盖区域用户数量的时变性对卸载决策的影响。

2、为实现上述目的,本专利技术提供了一种贪婪ddpg协同卸载决策与资源分配方法,包括下列步骤:

3、步骤1:搭设包括宏基站、微基站以及用户的超密集网络边缘计算场景;

4、步骤2:构建基于noma技术的通信模型;

5、步骤3:构建本地计算模型;

6、步骤4:构建mec计算模型;

7、步骤5:构建成本模型和优化目标;

8、步骤6:预估每个用户任务的本地计算成本和卸载计算成本;

9、步骤7:通过贪婪算法获得全局收益;

10、步骤8:通过ddpg算法调整智能体间的协作,进而求解卸载决策;

11、步骤9:基于卸载决策获得资源分配决策。

12、可选的,所述微基站部署有mec服务器,所述mec服务器根据微基站覆盖区域内所有卸载用户的任务数据量占比分配其计算资源,在完成卸载任务后通过微基站将计算结果回传给卸载用户。

13、可选的,在步骤2中,将每个微基站信号覆盖区内的用户分别划分为一个信道复用的noma簇群,根据noma技术及串行干扰解码特点,对于同一簇群中的用户终端,信道增益较大的一方将受到来自信道增益较小的一方的干扰。

14、可选的,所述本地计算模型中,计算任务在本地执行的时间用户终端x在单位时间内的本地计算能耗微基站noma簇中所有用户任务进行本地计算的时延和微基站noma簇中所有用户任务在本地执行的能耗的关系表达式如下所示:

15、

16、其中,γx表示用户终端x在当前时隙的二进制卸载策略、dx表示用户终端x在当前时隙的任务数据量,sx表示用户终端x每单位任务数据进行本地计算所需的cpu周期数,fx表示用户终端x的本地计算能力,κ表示芯片中的有效开关电容,kbs表示用户x所在的第bs个微基站的noma簇内卸载用户总数。

17、可选的,在步骤4的执行过程中,首先假设进行卸载计算的用户任务间卸载传输是并行的,并利用mec服务器为卸载用户x分配的计算资源χx、用户任务x的mec服务器计算时延用户终端u在当前时隙的二进制卸载策略γu,用户终端u在当前时隙的任务数据量du、第bs个微基站所部署的mec服务器的计算能力fbs、用户任务x的卸载传输时延用户终端x的发射功率px、mec服务器的总计算时延以及微基站覆盖范围内所有卸载用户的总传输能耗表达式如下:

18、

19、其中,为用户任务x的卸载传输时延,为系统的卸载传输时延。

20、可选的,步骤5中的优化目标是通过优化每个微基站内的用户卸载决策以及mec服务器算力资源分配,最小化所述超密集网络边缘计算场景系统时延与能耗加权和的总成本。

21、可选的,步骤6的执行过程,包括下列步骤:

22、步骤6.1:假设该微基站覆盖区域kbs个用户均选择进行卸载计算,如利用以下公式预估用户任务传输速度

23、

24、其中,微基站覆盖区内第x个用户的预估信干噪比为b表示带宽;

25、步骤6.2:计算用户资源预分配比例预估用户任务的本地计算成本和卸载成本表达式如下:

26、

27、其中,β是成本计算中的权重系数。

28、可选的,步骤7中通过贪婪算法获得用户的个体贪婪收益和微基站用户簇群的全局收益集合表达式如下所示:

29、

30、可选的,在步骤8的执行过程中,通过ddpg算法智能地调整微基站bs的全局收益阈值biasbs,提升对用户数量动态变化的适应能力,并增强用户进行分布式卸载决策时的合作行为。

31、可选的,所述ddpg算法的探索策略通过分阶段均衡探索行为,并利用行为提升算法收敛性能;通过调整智能体强化探索行为、抑制利用行为的时间参数ρ1以及时间参数ρ2,使得智能体能够在训练前期强化探索行为,在训练中期强化利用行为,在训练后期抑制探索行为。

32、本专利技术提供了一种贪婪ddpg协同卸载决策与资源分配方法,针对udn-mec场景的计算卸载时难以适应用户在微基站覆盖区内外的频繁切换的问题,利用贪婪算法分布式地获得用户个体收益,并通过全局收益阈值描述用户个体间基于全局感知的协作行为,克服了用户在微基站间频繁切换导致的用户数量时变性对卸载决策的影响,以及分布式单智能体方法中不同智能体间缺乏合作的缺点,同时通过ddpg算法智能地调整全局收益阈值,提升所提算法对用户数量动态变化的适应能力,降低动态异构的udn-mec系统中的时延与能耗加权总成本。

本文档来自技高网...

【技术保护点】

1.一种贪婪DDPG协同卸载决策与资源分配方法,其特征在于,包括下列步骤:

2.如权利要求1所述的贪婪DDPG协同卸载决策与资源分配方法,其特征在于,

3.如权利要求2所述的贪婪DDPG协同卸载决策与资源分配方法,其特征在于,

4.如权利要求3所述的贪婪DDPG协同卸载决策与资源分配方法,其特征在于,

5.如权利要求4所述的贪婪DDPG协同卸载决策与资源分配方法,其特征在于,

6.如权利要求5所述的贪婪DDPG协同卸载决策与资源分配方法,其特征在于,

7.如权利要求6所述的贪婪DDPG协同卸载决策与资源分配方法,其特征在于,

8.如权利要求7所述的贪婪DDPG协同卸载决策与资源分配方法,其特征在于,

9.如权利要求8所述的贪婪DDPG协同卸载决策与资源分配方法,其特征在于,

10.如权利要求9所述的贪婪DDPG协同卸载决策与资源分配方法,其特征在于,

【技术特征摘要】

1.一种贪婪ddpg协同卸载决策与资源分配方法,其特征在于,包括下列步骤:

2.如权利要求1所述的贪婪ddpg协同卸载决策与资源分配方法,其特征在于,

3.如权利要求2所述的贪婪ddpg协同卸载决策与资源分配方法,其特征在于,

4.如权利要求3所述的贪婪ddpg协同卸载决策与资源分配方法,其特征在于,

5.如权利要求4所述的贪婪ddpg协同卸载决策与资源分配方法,其特征在于,

...

【专利技术属性】
技术研发人员:邱斌冯科敬超邓昀陈文鹏唐海华陈艳
申请(专利权)人:桂林理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1