面向用户行为的联邦学习安全与隐私方法技术

技术编号:41301520 阅读:32 留言:0更新日期:2024-05-13 14:48
本发明专利技术请求保护一种面向用户行为的联邦学习安全与隐私方法,具体包括:终端用户利用高斯噪声保护个人的敏感信息,服务器根据安全聚合方案计算出终端用户上传模型参数与根模型的余弦相似度、欧氏距离以及在验证集的表现结合历史信任值,基于计算结果,得出用户参与聚合的权重。本发明专利技术考虑了终端用户行为,根据其历史行为分配信任值,并且全过程加入高斯噪声进而解决了不可信服务器的推理攻击问题,进一步保护了用户的敏感信息,提高了联邦学习系统中的安全性与隐私性;终端用户只对敏感信息额外进行噪声处理,降低了终端的计算开销,减少了终端的敏感数据处理时间。

【技术实现步骤摘要】

本专利技术属于联邦学习数据安全领域,特别涉及隐私处理和服务器进行安全聚合。


技术介绍

1、深度学习的发展已经改变了许多应用领域,如图像处理、自然语言处理和视频分析。目前,深度学习模型的训练主要是在一些功能强大的计算平台上进行的,例如服务器中心,这里集中收集了大量的用户数据。尽管如此,在许多应用程序中,数据是在终端设备(如智能手机和传感器)上生成和分发的,而将数据转移到中央服务器进行模拟训练将隐私担忧。由于法律条例、商业利益、隐私保护等多种隐私,不同组织的终端设备产生和收集到的数据将不会和其他组织共享,这会导致训练数据相互隔离,形成数据孤岛,各组织智能基于内部的小型数据集进行模型训练。但是模型的性能有很大程度和训练的数据集的大小相关,这样训练出来的模型性能和泛化能力都会受到限制。

2、因此,2016年谷歌提出联邦学习,它可以让终端用户使用从丰富的数据训练出的共享模型,而不需要集中存储数据。简单来说,每个参与方基于自己本地的数据集训练模型参数,服务器对各个用户上传的模型进行聚合,然后服务器返回聚合后的模型,客户端在本地实现更新,不断重复此过程最后模本文档来自技高网...

【技术保护点】

1.一种面向用户行为的联邦学习安全与隐私方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种面向用户行为的联邦学习安全与隐私方法,其特征在于,所述步骤S1服务器初始化一个模型参数,并下发给终端用户,具体包括:

3.根据权利要求1所述的一种面向用户行为的联邦学习安全与隐私方法,其特征在于,所述步骤S2终端用户基于本地数据集训练全局模型,更新本地模型参数,具体包括:

4.根据权利要求1所述的一种面向用户行为的联邦学习安全与隐私方法,其特征在于,所述步骤S3终端用户进行梯度裁剪,添加高斯噪声并且更新模型,向云服务器发送添加噪声的模型参数,具体包括:...

【技术特征摘要】

1.一种面向用户行为的联邦学习安全与隐私方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种面向用户行为的联邦学习安全与隐私方法,其特征在于,所述步骤s1服务器初始化一个模型参数,并下发给终端用户,具体包括:

3.根据权利要求1所述的一种面向用户行为的联邦学习安全与隐私方法,其特征在于,所述步骤s2终端用户基于本地数据集训练全局模型,更新本地模型参数,具体包括:

4.根据权利要求1所述的一种面向用户行为的联邦学习安全与隐私方法,其特征在于,所述步骤s3终端用户进行梯度裁剪,添加高斯噪声并且更新模型,向云服务器发送添加噪声的模型参数,具体包括:

5.根据权利要求1所述的一种面向用户行为的联邦学习安全与隐私方法,其特征在于,所述步骤s4服务器计算用户上传的模型参数与根模型的余弦相似度欧式距离,计算其模型在验证集的表现,具体包括:

6.根据权利要求1所述的一种面向用户行为的联邦学...

【专利技术属性】
技术研发人员:何利王玉杰杜佩遥刘俊卿李慎康毛芳王灿宇
申请(专利权)人:重庆邮电大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1