当前位置: 首页 > 专利查询>重庆大学专利>正文

一种基于本地差分隐私的联邦学习方法及系统技术方案

技术编号:42492747 阅读:37 留言:0更新日期:2024-08-21 13:10
本发明专利技术提供了一种基于本地差分隐私的联邦学习方法及系统。该方法包括:用户端从服务器端获取本轮的全局模型和全局模型参数更新;获取本轮的全局模型参数更新与上一轮的全局模型参数更新的相似度;若相似度小于回溯阈值,通过本地数据训练获得本轮的本地模型参数更新,获得本轮的本地模型参数噪音更新;若相似度大于或等于回溯阈值,从历史全局模型参数更新集中选取与本轮的全局模型参数更新最相似的历史全局模型参数更新,将选取的历史全局模型参数更新所属轮次的本地模型参数噪音更新作为本轮的本地模型参数噪音更新;上传本轮的本地模型参数噪音更新至服务器端。本发明专利技术可避免不必要的本地训练过程,节省计算资源和训练时间,自适应调整添噪声。

【技术实现步骤摘要】

本专利技术涉及联邦学习,尤其涉及一种基于本地差分隐私的联邦学习方法及系统


技术介绍

1、联邦学习(fl)作为一种分布式机器学习技术可以解决数据孤岛问题,使机构间可以跨地域协作而数据不出本地,且多方合作构建的模型能够更准确地预测各种问题。旨在不直接上传本地数据的前提下,上传本地数据集训练后的模型参数,服务器端接收多名用户端上传的模型参数后进行聚合,重复多次得到一个全局模型。

2、由于联邦学习训练过程需要服务器与部分用户端进行多轮全局模型、全局模型参数更新或者本地模型参数更新的交换,恶意攻击者可以利用梯度反演攻击重构某个用户的部分原始数据,也可以利用中间交换的参数对用户数据进行成员攻击。为了保护用户隐私梯度或者模型参数更新,以及防止梯度反演攻击等,一系列基于本地化差分隐私(ldp)的梯度更新保护方法被相继提出。

3、参照图1所示,在本地化差分隐私中,数据由用户在本地进行随机化处理,通过添加噪声、扰动或映射数据等处理方式,确保数据在传输给服务器前已被随机化。将隐私保护责任和控制权交给用户,通过在用户设备上进行随机化处理来降低数据泄露风险本文档来自技高网...

【技术保护点】

1.一种基于本地差分隐私的联邦学习方法,其特征在于,对应于用户端,所述方法包括:

2.如权利要求1所述的一种基于本地差分隐私的联邦学习方法,其特征在于,所述张量相似度算法的执行过程包括:

3.如权利要求2所述的一种基于本地差分隐私的联邦学习方法,其特征在于,第t轮的全局模型参数更新的数据点密度的计算公式为:

4.如权利要求1所述的一种基于本地差分隐私的联邦学习方法,其特征在于,所述从历史全局模型参数更新集中选取与本轮的全局模型参数更新最相似的历史全局模型参数更新,包括:

5.如权利要求1-4之一所述的一种基于本地差分隐私的联邦学习方法,其特...

【技术特征摘要】

1.一种基于本地差分隐私的联邦学习方法,其特征在于,对应于用户端,所述方法包括:

2.如权利要求1所述的一种基于本地差分隐私的联邦学习方法,其特征在于,所述张量相似度算法的执行过程包括:

3.如权利要求2所述的一种基于本地差分隐私的联邦学习方法,其特征在于,第t轮的全局模型参数更新的数据点密度的计算公式为:

4.如权利要求1所述的一种基于本地差分隐私的联邦学习方法,其特征在于,所述从历史全局模型参数更新集中选取与本轮的全局模型参数更新最相似的历史全局模型参数更新,包括:

5.如权利要求1-4之一所述的一种基于本地差分隐私的联邦学习方法,其特征在于,所述对本轮的本地模型参数更新进行数据扰动获得本轮的本地模型参数噪音更新,包括:

6.如权利要求5所述的一...

【专利技术属性】
技术研发人员:胡春强周于榆张今革蔡斌夏晓峰
申请(专利权)人:重庆大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1