一种基于合同理论的多任务无线联邦学习方法技术

本发明专利技术公开了一种基于合同理论的多任务无线联邦学习方法，该方法按以下步骤进行：模型拥有者对移动用户进行分簇，每个移动用户簇分别训练不同的联邦学习任务；模型拥有者通过一组最优合同对每个移动用户簇进行激励；其中，每个最优合同包括最佳奖励报酬和最佳全局迭代次数；每个移动用户簇分别执行联邦学习过程，同时完成不同的联邦学习任务。在本发明专利技术的合同理论中，模型拥有者有效激励了多个移动用户簇进行数据训练，并且同时完成了多个不同的联邦学习任务，从而提高整体联邦学习过程的工作效率。同时，模型拥有者能够在信息不对称的情况下最大化自己的效益。情况下最大化自己的效益。情况下最大化自己的效益。

【技术实现步骤摘要】
一种基于合同理论的多任务无线联邦学习方法

：
[0001]本专利技术涉及联邦学习中的激励机制的领域，特别是一种基于合同理论的多任务无线联邦学习方法。

技术介绍
：
[0002]随着物联网技术的迅速发展，现代物联网(IoT)设备的传感和通信能力不断增强。移动设备在边缘环境下能够收集到海量且高质量的数据。基于机器学习技术，这些数据可以为人们提供智慧服务。现有的机器学习方法大多是集中式训练，这就要求移动设备将数据集中发给中心服务器，但是由于频谱资源的稀缺性以及数据的隐私性，移动设备直接传输数据至中心服务器进行训练会产生较大的传输时延以及隐私泄露问题。
[0003]为了解决这个困境，一种被称为联邦学习的分布式机器学习方法被提出。与传统的中央服务器获取和存储移动设备原始数据的集中式模型训练过程不同，联邦学习允许移动设备将本地数据保存在自己的设备上，并且只共享中间模型参数，这很好地保护了用户的数据隐私。虽然联邦学习是一项极富前景的机器学习方法，但是移动设备参与到联邦学习的过程中将会消耗大量的私有资源，比如计算能力、带宽和珍贵数据等等，考虑到移动设备的自本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于合同理论的多任务无线联邦学习方法，其特征在于，所述方法包括以下步骤：模型拥有者对移动用户进行分簇，每个移动用户簇分别训练不同的联邦学习任务；模型拥有者通过一组最优合同对每个移动用户簇进行激励；其中，每个最优合同包括最佳奖励报酬和最佳全局迭代次数；每个移动用户簇分别执行联邦学习过程，同时完成不同的联邦学习任务。2.根据权利要求1所述的一种基于合同理论的多任务无线联邦学习方法，其特征在于，模型拥有者通过余弦相似度对移动用户进行分簇，具体步骤如下：(a)模型拥有者向所有移动用户分发相同的学习模型进行联邦学习，联邦学习过程中全局损失函数为：其中D
m
为移动用户m的本地数据集，表示所有移动用户的训练数据的总和；l
w
(w,x
m,t
,y
m,t
)为移动用户m在给定模型参数w的情况下，在{x
m,t
,y
m,t
}上的损失函数；{x
m,t
,y
m,t
}为D
m
中的第t组数据，x
m,t
、y
m,t
分别为D
m
中的第t组数据中的样本数据及其对应标签；移动用户m的经验风险函数为：(b)计算任意两个移动用户a和b梯度之间的余弦相似度：其中w
*
是使全局损失函数达到最小的模型参数，分别为r
a
(w)、r
b
(w)在w＝w
*
处的梯度值，l
w
(w,x
a,t
,y
a,t
)为移动用户a在给定模型参数w的情况下，在{x
a,t
,y
a,t
}上的损失函数；l
w
(w,x
b,t
,y
b,t
)为移动用户b在给定模型参数w的情况下，在{x
b,t
,y
b,t
}上的损失函数；每个用户簇的分离间距为：其中，是用户簇C
i
中移动用户与其他用户簇中的移动用户间的最大的余弦相似度，是用户簇C
i
中用户间最小的余弦相似度；(c)按照各个用户簇均需满足的原则，对移动用户进行分簇，并在每个用户簇中随机选出一个簇头；其中簇头不参与联邦学习，仅用作模型参数的聚合与下发。3.根据权利要求1所述的一种基于合同理论的多任务无线联邦学习方法，其特征在于，模型拥有者通过一组最优合同对每个移动用户簇进行激励，具体为：
用户簇C
i
的属性π
i
＝(η
i
,ε
i
)，其中，ε
i
为C
i
的训练精确度要求，η
i
为C
i
进行一次全局迭代的花销：其中，κ为能量对应花销，K
i
为C
i
中随机选取参与训练的移动用户个数，E

【专利技术属性】
技术研发人员：夏文超，王思洋，徐林林，赵海涛，倪艺洋，王琴，张晖，
申请(专利权)人：南京邮电大学，
类型：发明
国别省市：