隐私保护联邦学习框架下针对用户级攻击的防御方法技术

本发明专利技术公开了一种隐私保护联邦学习框架下针对用户级攻击的防御方法，该方法通过服务器对加密梯度进行随机组合，从而使得来自攻击者的异常梯度有可能不会被选中，因此在生成多个模型副本时，可以生成未受到到攻击者影响的副本，利用用户对每个模型副本的评分，筛选出不包含攻击梯度的副本作为新的全局模型，便可防御用户级的攻击。防御用户级的攻击。防御用户级的攻击。

【技术实现步骤摘要】
隐私保护联邦学习框架下针对用户级攻击的防御方法


[0001]本专利技术涉及隐私保护联邦学习
，尤其涉及一种隐私保护联邦学习框架下针对用户级攻击的防御方法。

技术介绍

[0002]随着分布式机器学习的发展，多用户联合训练一个深度学习模型成为可能。目前的联邦学习方案中，每个用户使用自己的私人数据计算梯度，然后上传至云服务器进行全局模型的更新。在这个过程中，用户不希望自己的数据暴露给云服务器，因此会使用一些安全保护措施(如同态加密等)来阻止服务器获取私人数据的信息，也称之为隐私保护联邦学习。但是由于这些安全保护措施的存在，服务器无法对每个用户进行审查，因此对于一部分用户被恶意用户控制的情形，联邦学习过程将很容易受到攻击。在参与共同学习任务的用户数量很多时，存在用户被恶意控制的概率很高，而隐私保护协定使得恶意用户可以直接参与到任务中，并且避免被云服务器检测。
[0003]现有的保护方案多是针对来自服务器端的攻击，以保护用户的数据不被服务器窃取，无法防御来自恶意用户的攻击。或是针对未受保护的梯度进行审计，因此无法适用于梯度受到保护的条件下的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种隐私保护联邦学习框架下针对用户级攻击的防御方法，其特征在于，包括：在每一轮迭代中，服务器端随机选择一部分用户端发送加密的全局模型参数；服务器端将接收到各用户端反馈的加密后的梯度，通过随机组合的方式，得到多个加密的梯度集合，利用每个加密的梯度集合分别更新全局模型，生成多个全局模型副本参数，再发送给各用户端；其中，所述加密后的梯度由用户端利用全局模型参更新本地模型参数后使用本地数据集计算并加密得到；之后，服务器端将接收到各用户端选出的最优全局模型参数，通过统计将被选为最优全局模型参数次数最多的模型参数新的全局模型参数；其中，用户端利用本地数据集对每一个模型副本参数进行评估，将评估得分最高的模型副本参数作为最优全局模型参数。2.根据权利要求1所述的一种隐私保护联邦学习框架下针对用户级攻击的防御方法，其特征在于，当攻击者混入正常用户端中发送异常梯度给服务器端时，服务器端通过随机组合的方式，能够产生不包含异常梯度的梯度集合以及包含异常梯度的梯度集合，通过更新全局模型，将产生对应的全局模型副本参数；在用户端的评估过程中，不包含异常梯度的梯度集合更新全局模型得到的全局模型副本参数的评估分数，将高于包含异常梯度的梯度集合更新全局模型得到的全局模型副本参数的评估分数。3.根据权利要求1所述的一种隐私保护联...

【专利技术属性】
技术研发人员：吴晓烽，李卫海，姚远志，俞能海，
申请(专利权)人：中国科学技术大学，
类型：发明
国别省市：