System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于DDPG算法的去中心化自适应计算卸载方法技术_技高网

一种基于DDPG算法的去中心化自适应计算卸载方法技术

技术编号:40553628 阅读:13 留言:0更新日期:2024-03-05 19:13
本发明专利技术公开了一种基于DDPG算法的去中心化自适应计算卸载方法,用于卡车车队系统,该方法中,DDPG由actor网络和critic网络两部分组成,每部分包含一个在线主网和一个目标网络;执行该方法时,初始化所有网络的参数,使DDPG与环境交互,然后将每个时刻生成的轨迹元组作为训练数据集存储到经验回放池中;在训练阶段,从经验回放池中随机选择一个包含N个轨迹元组的小批量样本送到DDPG中以更新网络参数;critic的主网络采用随机梯度下降方法来更新其参数,actor的主网络根据critic主网络提供的梯度来更新其网络的参数。本发明专利技术可以降低卡车车队系统的平均能耗和任务平均计算时延。

【技术实现步骤摘要】

本专利技术属于人工智能领域,尤其涉及一种基于ddpg算法的去中心化自适应计算卸载方法。


技术介绍

1、随着智能汽车和车联网的发展,出现了各种延迟敏感和计算密集型应用,如自动驾驶、增强现实、自动导航和在线游戏等,这对车载资源构成挑战。幸运的是,得益于5g通信技术,车辆边缘计算(vec)可以通过基于ieee 802.11p的车对rsu(v2r)或车对车(v2v)通信将部分或全部计算任务卸载到物理上近端的rsu/bs或其他车辆,为车辆用户提供更加高效的计算和通信服务,从而解决车载资源不足的问题,该计算范式在城市交通场景中得到了广泛的应用。然而,在高速公路场景中,传统的vec模式面临着一些挑战:

2、(1)沿高速公路部署rsu/bs是一笔不可忽视的费用,rsu/bs在高速公路上的覆盖区域比城市道路更广泛,如果卸载任务仅在rsu/bs的边缘计算(ec)服务器上处理,则总计算延迟将超过可容忍的阈值。

3、(2)高速公路大部分建在偏远地区,rsu/bs的部署相对稀疏,无法满足高速公路上车辆的计算卸载需求。

4、(3)车辆在高速公路上快速行驶,车辆网络具有高度动态的拓扑结构,车辆与rsu/bs之间频繁切换位置通常会导致无线通信链路断开连接,从而减少车辆的有效通信时间和体验质量(qoe)。

5、为了应对上述挑战,车辆队列驾驶是一种有效的解决方案。作为列队技术最重要的应用场景之一,卡车编队可以降低能耗,提高物流效率和行车安全性。目前,卡车编队的研究主要集中在列队控制和协调上,对卡车编队系统中计算卸载方案的研究较少。


技术实现思路

1、为了降低车队系统的平均能耗和任务处理延迟,本专利技术提供一种基于ddpg算法的去中心化自适应计算卸载方法。

2、本专利技术的一种基于ddpg算法的去中心化自适应计算卸载方法,用于卡车车队系统,卡车车队系统模型以及通信模型为:

3、卡车车队由一个头车pl和m个成员卡车pm组成,pm表示成:{1,2,...,m,...,m};pl配备的带有边缘计算服务器的小型bs;每个pm都通过v2v与pl通信。

4、对车队中的pm应用经典车辆跟驰模型:智能驾驶员模型idm,并假设车队系统中任何两辆相邻卡车之间的距离相等并表示为d,则车队内平衡间距由下式给出:

5、

6、式中,d0是最小车队内间距,th是理想车头时距,v是行驶速度,vmax是最大行驶速度。

7、假设每辆卡车的长度为dt,则成员m和头车之间的通信距离写为:

8、dm=m(d+dt)         (2)

9、在卡车队列系统中,noma技术用于pm和pl之间的通信,由于多个pm在同一信道上同步上传任务数据,因此在卸载数据时会存在信号干扰;因此,在t时上行链路中,pl从pm m中接收到的信号可通过以下方式计算:

10、

11、是pm m的发射功率,是最大发射功率,是pm m的信道矢量,xm(t)是具有单位方差的复杂数据信号;ym(t)第一部分是来自目标pm的有效信号,第二部分是来自共享该信道的其他pm的干扰信号,第三部分n(t)~cn(0,σ2)是具有方差σ2的加性高斯白噪声矢量;对于pm m,使用ar模型来表征时间t和t+1之间的信道状态转换:

12、

13、其中,ρm是时间t和t+1之间的归一化相关系数且接近1,e(t+1)是一个误差矢量,同时也是一个与hm(t+1)不相关的复杂高斯分布,每个pm的信道矢量初始化为hm(0)~cn(0,h0(dref/dm)α),h0是一个路径损耗常数,dref为参考距离,α路径损失指数。

14、考虑m个pm按其信道的降序在时间t中共享同一信道:h1(t)≥h2(t)≥…≥hm(t)≥…≥hm(t),pm m的干扰信号可写成:

15、则时间t中pm m的相应信号干扰加噪声(sinr)为:

16、

17、

18、σ2是高斯白噪声功率。

19、因此,可以根据带宽b获得pm m和pl之间的任务数据传输速率:

20、rm,o(t)=blog2(1+ζm(t))     (7)

21、车队系统计算模型:

22、am(t)量化时间t期间pm m的到达任务数据的数量,假设在所有时间上am(t)都是独立同分布,am(t)临时存储在缓存队列中,然后在从下一个时间t+1处理;对于每个pm,假设计算任务的到达率服从泊松分布λ,任务的数据大小服从均匀分布u~u(umin,umax),则am(t)满足:e[am(t)]=λu。

23、(1)本地计算模型

24、对于每个pm,假设任务数据按时间顺序临时存储在缓存队列系统中,然后从缓存队列中弹出并在本地计算或卸载到pl,则pm m的本地计算的任务数据大小可写成:

25、

26、是通过使用dvfs技术调整芯片电压来调度的pm m的cpu周期频率,是为cpu分配的本地计算功率,为最大本地计算功率,κm是pm m处理器的有效转换电容参数,lm为可通过离线测量获得的任务数据执行所需的cpu周期数。

27、在时间t中,pm m本地计算所消耗的能量可写成:

28、em,l(t)=τ0pm,l(t)      (9)

29、(2)计算卸载模型

30、由于pm的计算资源不足,部分任务数据将被卸载到pl并由ec服务器执行,根据公式(8),ec服务器处理pm m的卸载任务数据所需的时间表示为:

31、

32、是ec服务器分配给pm m的功率,是分配给pm m的最大计算功率,κh是ec服务器的有效转换电容参数,lh是pl处理任务数据所需的cpu周期数。

33、根据公式(7),在时间t中卸载pm m的任务数据的大小计算如下:

34、

35、在时间t中pm m卸载任务数据所消耗的能量可写成:

36、em,o(t)=τ0pm,o(t)       (12)

37、pl在时间t中计算pm m的卸载任务数据所消耗的能量可写成:

38、em,h(t)=τ0pm,h(t)      (13)

39、车队系统问题建模:

40、在时间t中,pm m本地计算和卸载到pl的任务数据分别为qm,l(t)和qm,o(t),因此,所有计算的任务数据量为qm,l(t)+qm,o(t);qm(t)表示缓存队列的当前长度,通过给定到达的任务数据am(t),下一个时间t+1中的缓存队列长度表示为:

41、qm(t+1)=min([max((qm(t)-qm,l(t)-qm,o(t)),0)+am(t)],qmmax)     (14)

42、qmmax为最大缓存队列长度。

43、根据排队论中m/m/1模型和little公式,队本文档来自技高网...

【技术保护点】

1.一种基于DDPG算法的去中心化自适应计算卸载方法,用于卡车车队系统,其特征在于,卡车车队系统模型以及通信模型为:

【技术特征摘要】

1.一种基于ddpg算法的去中心化自适应计算卸载方法,用于...

【专利技术属性】
技术研发人员:洪鑫涛王磊梁宏斌
申请(专利权)人:西南交通大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1