融合自适应权重分配和个性化差分隐私的联邦学习方法技术

本发明专利技术提供了一种融合自适应权重分配和个性化差分隐私的联邦学习方法。该方法包括：客户端接收当前服务器下发的全局模型，在本地数据上进行模型训练，获得本地模型；客户端根据隐私预算向模型更新信息中添加不同程度的高斯噪声，并发送给服务器；服务器根据各个客户端的聚合权重来加权聚合所有模型更新信息，将聚合完成后得到的全局模型重新下发给客户端；服务器每经过设定数量轮次的全局模型更新后，便通过自适应权重分配算法重新分配每个客户端的聚合权重。本发明专利技术在联邦学习训练过程中满足不同客户端隐私偏好的同时着重考虑了个性化对全局模型的影响，能够根据客户端的表现来动态调整聚合权重，自动筛选出数据质量优且添加噪声小的客户端。添加噪声小的客户端。添加噪声小的客户端。

【技术实现步骤摘要】
融合自适应权重分配和个性化差分隐私的联邦学习方法


[0001]本专利技术涉及联邦学习
，尤其涉及一种融合自适应权重分配和个性化差分隐私的联邦学习方法。

技术介绍

[0002]联邦学习是目前解决数据孤岛问题的有效方法，联邦学习通过保证原始数据不出本地，只上传模型的更新信息，即“数据可用不可见，数据不动模型动”，能够较为有效地保护客户端的数据隐私。但是，传统的联邦学习框架仍然存在隐私泄露的问题。虽然客户端向服务器发送模型更新信息，现有的研究已经指出服务器仍然有能力仅从客户端发送的模型更新信息就可以推理出其本地原始数据的相关信息。
[0003]目前许多研究通过使用差分隐私技术来增强联邦学习过程中的隐私保护。但是，现有的联邦学习相关研究没有考虑到现实中客户端隐私偏好的个性化，对所有参与的客户端都采取相同的较高隐私保护程度。这显然会导致模型精度的下降。此外，尽管有一些研究考虑了个性化差分隐私，允许客户端自身选择隐私保护程度，然而在模型聚合过程中却没有考虑客户端的隐私保护程度不同，直接使用平均聚合的方式，忽略了个性化的影响。这也会导致模型精度本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种融合自适应权重分配和个性化差分隐私的联邦学习方法，其特征在于，包括：训练前，客户端选择相应的隐私预算；训练时，客户端首先接收当前服务器下发的全局模型，并使用相应的算法在本地数据上进行模型训练，获得本地模型；客户端根据自己选择的隐私预算向模型更新信息中添加不同程度的高斯噪声，将更新后的模型更新信息发送给服务器；所述服务器接收到各个客户端发送的模型更新信息后，通过查询聚合权重表确定每个客户端的聚合权重，根据各个客户端的聚合权重来加权聚合所有模型更新信息，将聚合完成后得到的全局模型重新下发给客户端；服务器每经过设定数量轮次的全局模型更新后，便通过自适应权重分配算法重新分配每个客户端的聚合权重，不断迭代上述训练过程，直至模型收敛或者达到预设条件。2.根据权利要求1所述的方法，其特征在于，所述的服务器接收到各个客户端发送的模型更新信息后，通过查询聚合权重表确定每个客户端的聚合权重，根据各个客户端的聚合权重来加权聚合所有模型更新信息，将聚合完成后得到的全局模型重新下发给客户端，包括：步骤S41:服务器整理收到的模型更新信息的数量；步骤S42：服务器通过对比收到的模型更新信息的数量和聚合权重表中的客户端数量来检测是否有客户端退出，如果没有，则正常进行下一步步骤S43操作；如果有，则执行客户端退出算法；步骤S43：服务器根据模型更新信息中的客户端的编号从聚合权重表中获得各个客户端的聚合权重；服务器根据各个客户端的聚合权重来加权聚合各个客户端上传的模型更新信息，聚合完成后得到全局模型，将全局模型下发给各个客户端。3.根据权利要求2所述的方法，其特征在于，所述的执行客户端退出算法，包括：服务器根据退出的客户端的编号从聚合权重表中查询出对应的聚合权重；服务器将这些客户端从聚合权重表中删除；服务器对这些退出客户端的聚合权重进行求和得到总退出权重；服务器将总退出权重平均分配或根据客户端的权重大小按比例分配给现有客户端，对聚合权重表中的各个客户端的聚合权重进行相应的更新。4.根据权利要求2所述的方法，其特征在于，所述的客户端加入算法，包括：服务器正常计算现有客户端的表现；服务器向要加入的客...

【专利技术属性】
技术研发人员：王伟，刘文博，刘鹏睿，刘吉强，李浥东，
申请(专利权)人：北京交通大学，
类型：发明
国别省市：