一种基于信道与局部模型更新结合的设备调度方法技术

本发明专利技术公开了一种基于信道与局部模型更新结合的设备调度方法，涉及联邦学习领域和用户调度领域，在局部模型聚合时采用空中计算提高通信效率，通过优化接收端波束成形向量降低空中计算过程中产生的聚合误差，然后提出了一种同时考虑信道与局部模型更新的设备调度方法，在调度的设备数量固定时，本发明专利技术与现有技术相比，能够降低计算和通信开销，提升模型训练速度，进而取得更好的学习性能。进而取得更好的学习性能。进而取得更好的学习性能。

【技术实现步骤摘要】
一种基于信道与局部模型更新结合的设备调度方法


[0001]本专利技术涉及无线通信领域，特别是涉及一种基于信道与局部模型更新结合的设备调度方法。

技术介绍

[0002]近年来，由于机器学习技术的突破和算力水平的提高，以及数据量的爆炸式增长，使得自动驾驶和虚拟现实等人工智能应用日益成为现实。典型的机器学习技术通常以集中处理的方式进行模型训练，即智能移动设备生成的原始数据直接发送到集中的云数据中心，大量的数据传输必定会引起网络堵塞，导致较高的延迟，原始数据的传输也会造成隐私泄露问题。另一方面，基站和手机、平板电脑等边缘移动设备的计算能力日益先进，使得在网络边缘端完成计算成为可能，基于此，联邦学习训练框架被提出。在联邦学习中，只有经过训练的模型或模型梯度被传输，涉及隐私的数据还保留在边缘移动设备端，因此可以起到保护隐私和节省通信资源的作用。
[0003]为了进一步提高联邦学习过程中通信频谱资源的利用率，人们将空中计算与联邦学习相结合。空中计算是指利用信道的叠加特性完成联邦学习训练过程中梯度的聚合，由于在传输过程中就完成了一部分计算，因此也可以起到降低时延的作用。
[0004]联邦学习中的用户调度是一个研究热点。通常有大量的边缘设备连接到参数服务器上，但考虑到通信负载和设备能耗，在每轮训练中只有部分边缘设备与参数服务器交互。在基于空中计算的联邦学习中，对用户进行调度通常会考虑信道和局部模型更新两个条件,传统的将信道与局部模型更新结合的方法是先根据信道增益进行设备选择，选择出的设备都进行局部训练，再根据局部训练结果调度更少的一部分设备，这会导致一部分设备进行了局部训练但没有被选择，浪费了这些设备的能量。

技术实现思路

[0005]有鉴于此，本专利技术的目的在于提供一种基于信道与局部模型更新结合的设备调度方法，该方法针对基于空中计算的联邦学习系统，通过优化边缘移动设备的调度来提高模型训练效果。
[0006]为了实现上述目的，本专利技术采用如下技术方案：
[0007]步骤1：构建联邦学习系统
[0008]在一个边缘智能场景中，有K个单天线的边缘移动设备，表示为K＝{1,2,
…
,K}及一个配有M根天线的参数服务器，每个边缘移动设备k∈K都有本地数据集D
k
,|D
k
|表示数据集D
k
的样本数量，联邦学习中由参数服务器和边缘移动设备共同训练一个全局模型ω，联邦学习训练过程是一个循环的过程，每一轮循环称为一个训练轮次，每一个训练轮次得到新的全局模型，使用ω
t
表示第t个训练轮次得到的全局模型，ω0代表未经过联邦学习训练的初始全局模型，ω
t
‑1代表上一个训练轮次得到的全局模型，构得联邦学习系统；
[0009]步骤2：结合信道与局部模型更新两个参数，参数服务器调度参与训练的边缘移动
设备；
[0010]步骤3：参数服务器将上一次循环得到的全局模型ω
t
‑1下发给所有被调度的边缘移动设备；
[0011]步骤4：被调度的边缘移动设备采用随机梯度下降算法进行局部训练，得到各自的局部梯度；
[0012]步骤5：被调度的边缘移动设备将得到的局部梯度上传至参数服务器，更新全局模型，得到ω
t
，上传局部梯度的过程采用空中计算，并对空中计算进行优化；
[0013]循环执行步骤2
‑
5，直到全局模型ω
t
收敛。
[0014]进一步的，所述步骤2具体包括：
[0015]信道参数：在第t轮训练轮次中，参数服务器与各个边缘移动设备k之间有不同的信道增益向量h
k,t
；各个边缘移动设备向参数服务器发送导频序列，参数服务器根据接收到的导频序列估计出各个边缘移动设备与参数服务器之间的信道增益向量h
k,t
；使用信道增益向量h
k,t
的l2范数表示参数服务器与边缘移动设备k之间的信道参数，其中代表向量h
k,t
第i个分量的绝对值，由于参数服务器一共有M根天线，因此信道增益向量h
k,t
一共有M个分量；
[0016]局部模型更新参数：在第t轮训练轮次中，边缘移动设备k进行局部训练后得到局部梯度g
k,t
，使用局部梯度g
k,t
的l2范数||g
k,t
||表示边缘移动设备k的局部模型更新参数；||g
k,t
||的值越大意味着设备k局部训练的结果对联邦学习训练的效果提升越大；
[0017]由于边缘移动设备k在被调度之前并没有进行局部训练，而在调度时又要用到局部训练的结果g
k,t
，算出g
k,t
的l2范数||g
k,t
||指导调度，因此需要对局部训练得到的局部梯度的l2范数||g
k,t
||进行估计；
[0018]将信道与局部模型更新相结合，决定设备调度的优先级，设备调度优先级的定义如下：
[0019]I
k,t
＝c||h
k,t
||+(1
‑
c)||g
k,t
||
ꢀꢀꢀ
(1)
[0020]其中I
k,t
代表边缘移动设备k在第t轮训练轮次中的调度优先级，c∈[0,1]是一个超参数，用来控制两个调度参数的影响权重；
[0021]对所有边缘移动设备k的调度优先级I
k,t
进行降序排列，在调度设备数量固定为N的情况下，0<N<K，选择前N个I
k,t
最大的设备参与第t轮的联邦学习训练；第t轮训练轮次中被调度的边缘移动设备集为：
[0022][0023]进一步的，所述对局部训练得到的局部梯度的l2范数||g
k,t
||进行估计，具体为：
[0024]由于边缘移动设备在各轮的训练轮次中计算出的局部梯度有很强的时间相关性，因此使用最近训练轮次中的梯度l2范数来估计当前训练轮次的梯度l2范数，具体来说，在第t轮训练轮次中，通过估计得到的局部梯度l2范数为：
[0025][0026]其中t
k
代表设备k上一次被调度的联邦学习训练轮次；
[0027]在第一轮联邦学习训练轮次中需要所有边缘移动设备都参与训练，上传所有边缘移动设备的局部梯度，以便参数服务器能够对后续的训练轮次的梯度l2范数进行估计；当边缘移动设备k在第t轮训练轮次中被调度时，参数服务器用局部训练之后的局部梯度g
k,t
更新
[0028]进一步的，所述步骤4，具体包括：
[0029]被调度的边缘移动设备采用随机梯度下降算法进行局部训练，采用随机梯度下降算法首先要构建损失函数，然后利用损失函数计算出局部梯度；
[0030]系统的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于信道与局部模型更新结合的设备调度方法，其特征在于，所述方法包括如下步骤：步骤1：构建联邦学习系统在一个边缘智能场景中，有K个单天线的边缘移动设备，表示为K＝{1,2,
…
,K}及一个配有M根天线的参数服务器，每个边缘移动设备k∈K都有本地数据集D
k
,|D
k
|表示数据集D
k
的样本数量，联邦学习中由参数服务器和边缘移动设备共同训练一个全局模型ω，联邦学习训练过程是一个循环的过程，每一轮循环称为一个训练轮次，每一个训练轮次得到新的全局模型，使用ω
t
表示第t个训练轮次得到的全局模型，ω0代表未经过联邦学习训练的初始全局模型，ω
t
‑1代表上一个训练轮次得到的全局模型，构得联邦学习系统；步骤2：结合信道与局部模型更新两个参数，参数服务器调度参与训练的边缘移动设备；步骤3：参数服务器将上一次循环得到的全局模型ω
t
‑1下发给所有被调度的边缘移动设备；步骤4：被调度的边缘移动设备采用随机梯度下降算法进行局部训练，得到各自的局部梯度；步骤5：被调度的边缘移动设备将得到的局部梯度上传至参数服务器，更新全局模型，得到ω
t
，上传局部梯度的过程采用空中计算，并对空中计算进行优化；循环执行步骤2
‑
5，直到全局模型ω
t
收敛。2.根据权利要求1所述的基于信道与局部模型更新结合的设备调度方法，其特征在于，所述步骤2具体包括：信道参数：在第t轮训练轮次中，参数服务器与各个边缘移动设备k之间有不同的信道增益向量h
k,t
；各个边缘移动设备向参数服务器发送导频序列，参数服务器根据接收到的导频序列估计出各个边缘移动设备与参数服务器之间的信道增益向量h
k,t
；使用信道增益向量h
k,t
的l2范数表示参数服务器与边缘移动设备k之间的信道参数，其中代表向量h
k,t
第i个分量的绝对值，由于参数服务器一共有M根天线，因此信道增益向量h
k,t
一共有M个分量；局部模型更新参数：在第t轮训练轮次中，边缘移动设备k进行局部训练后得到局部梯度g
k,t
，使用局部梯度g
k,t
的l2范数||g
k,t
||表示边缘移动设备k的局部模型更新参数；||g
k,t
||的值越大意味着设备k局部训练的结果对联邦学习训练的效果提升越大；由于边缘移动设备k在被调度之前并没有进行局部训练，而在调度时又要用到局部训练的结果g
k,t
，算出g
k,t
的l2范数||g
k,t
||指导调度，因此需要对局部训练得到的局部梯度的l2范数||g
k,t
||进行估计；将信道与局部模型更新相结合，决定设备调度的优先级，设备调度优先级的定义如下：I
k,t
＝c||h
k,t
||+(1
‑
c)||g
k,t
||
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(1)其中I
k,t
代表边缘移动设备k在第t轮训练轮次中的调度优先级，c∈[0,1]是一个超参数，用来控制两个调度参数的影响权重；对所有边缘移动设备k的调度优先级I
k,t
进行降序排列，在调度设备数量固定为N的情
况下，0<N<K，选择前N个I
k,t
最大的设备参与第t轮的联邦学习训练；第t轮训练轮次中被调度的边缘移动设备集为：3.根据权利要求2所述的一种基于信道与局部模型更新结合的设备调度方法，其特征在于，所述对局部训练得到的局部梯度的l2范数||g
k,t
||进行估计，具体为：由于边缘移动设备在各轮的训练轮次中计算出的局部梯度有很强的时间相关性，因此使用最近训练轮次中的梯度l2范数来估计当前训练轮次的梯度l2范数，具体来说，在第t轮训练轮次中，通过估计得到的局部梯度l2范数为：其中t
k
代表设备k上一次被调度的联邦学习训练轮次；在第一轮联邦学习训练轮次中需要所有边缘移动设备都参与训练，上传所有边缘移动设备的局部梯度，以便参数服务器能够对后续的训练轮次的梯度l2范数进行估计；当边缘移动设备k在第t轮训练轮次中被调度时，参数服务器用局部训练之后的局部梯度g
k,t
更新4.根据权利要求1所述的一种基于信道与局部模型更新结合的设备调度方法，其特征在于，所述步骤4，具体包括：被调度的边缘移动设备采用随机梯度下降算法进行局部训练，采用随机梯度下降算法首先要构建损失函数，然后利用损失函数计算出局部梯度；被调度的边缘移动设备收到上一轮训练轮次得到的全局模型ω
t
‑1，构建针对整个联邦学习系统的全局损失函数，为其中代表整个联邦学习系统的样本容量，F
k
(ω
t
‑1)是上一次循环得到的全局模型ω
...

【专利技术属性】
技术研发人员：张帆，王昆仑，万俊杰，
申请(专利权)人：华东师范大学，
类型：发明
国别省市：