低隐私预算下的基于本地差分隐私机制的联邦学习方法技术

技术编号:41750423 阅读:20 留言:0更新日期:2024-06-21 21:35
本发明专利技术涉及一种低隐私预算下的基于本地差分隐私机制的联邦学习方法,应用于联邦学习框架,联邦学习框架包括:一个中央服务器,K个边缘服务器和N个本地客户端,其中,K和N均为大于1的整数,K个边缘服务器用于管辖N个本地客户端,实现中央服务器与本地客户端之间的通信。该联邦学习方法,基于该联邦学习框架提出了一种低隐私预算情况下扰动方差较低的本地差分隐私机制,提高了联邦学习模型的精度。同时使用边缘服务器聚合部分本地客户端的模型权重,降低了中央服务器的通信开销。本地客户端使用参数洗牌机制对本地模型权重进行处理并上传至受管辖的边缘服务器,提高了方案的安全性并为客户端提供了匿名性保障。

【技术实现步骤摘要】

本专利技术属于人工智能安全,具体涉及一种低隐私预算下的基于本地差分隐私机制的联邦学习方法


技术介绍

1、人工智能近年来取得了长足的发展,尤其是chat-gpt等大模型的出现,不仅为科研和工程领域提供了帮助,而且为人们的生活带来了便利。

2、伴随着人工智能技术的快速发展,数据隐私问题也日益凸显,联邦学习为解决这一问题提供了思路。联邦学习的框架包括一台中央服务器和n个本地客户端。具体执行步骤为:中央服务器初始化全局模型或得到本轮的聚合模型;中央服务器下发全局模型至所有客户端;本地客户端使用其隐私数据集对全局模型进行训练,得到本地训练模型;本地客户端上传模型至中央服务器;中央服务器对接收到的模型权重进行聚合;一直循环执行上述步骤直至模型收敛或者达到最大全局通信轮数t。尽管联邦学习没有让隐私数据离开本地客户端,但其仍存在诸多隐私问题,比如有研究表明中间敌手可以通过攻击窃听到的模型权重以恢复对应的隐私数据集。

3、为解决联邦学习中的数据隐私问题,本地差分隐私技术由于轻量级的特点被广泛应用于联邦学习,但目前最先进的自适应本地差分隐私机制虽然扰本文档来自技高网...

【技术保护点】

1.一种低隐私预算下的基于本地差分隐私机制的联邦学习方法,其特征在于,应用于联邦学习框架,所述联邦学习框架包括:一个中央服务器,K个边缘服务器和N个本地客户端,其中,K和N均为大于1的整数,K个边缘服务器用于管辖N个本地客户端,实现所述中央服务器与所述本地客户端之间的通信;

2.根据权利要求1所述的低隐私预算下的基于本地差分隐私机制的联邦学习方法,其特征在于,所述全局模型网络结构和所述本地模型网络结构均为CNN卷积神经网络。

3.根据权利要求1所述的低隐私预算下的基于本地差分隐私机制的联邦学习方法,其特征在于,所述步骤4包括:

4.根据权利要求1所述的...

【技术特征摘要】

1.一种低隐私预算下的基于本地差分隐私机制的联邦学习方法,其特征在于,应用于联邦学习框架,所述联邦学习框架包括:一个中央服务器,k个边缘服务器和n个本地客户端,其中,k和n均为大于1的整数,k个边缘服务器用于管辖n个本地客户端,实现所述中央服务器与所述本地客户端之间的通信;

2.根据权利要求1所述的低隐私预算下的基于本地差分隐私机制的联邦学习方法,其特征在于,所述全局模型网络结构和所述本地模型网络结构均为cnn卷积神经网络。

3.根据权利要求1所述的低隐私预算下的基于本地差分隐私机制的联邦学习方法,其特征在于,所述步骤4包括:

4.根据权利要求1所述的低隐私预算下的基于本地差分隐私机制的联邦学习方法,其特征在于,在所述步骤5中,所述本地客户端在隐私预算ε在的情况下利用自适应本地差分隐私机制对训练后的本地模型的本地模型权重进行扰动。

5.根据权利要求4所述的低隐私预算下的基于本地差分隐私机制的联邦学习方法,其特征在于,所述步骤5包...

【专利技术属性】
技术研发人员:郭瑾王保仓沈晓鹰
申请(专利权)人:西安电子科技大学杭州研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1