分布式环境下隐私保护联邦学习方法、系统、设备及介质技术方案

本申请实施例涉及分布式机器学习技术领域，特别涉及一种分布式环境下隐私保护联邦学习方法、系统、设备及介质，该方法包括：首先，分别生成同态加密的公钥以及同态加密的私钥；然后，对模型参数初始化处理，得到全局模型；使用同态加密的公钥对全局模型进行加密处理，得到加密后的全局模型，并将加密后的全局模型发送至客户端；接下来，基于加密后的全局模型，客户端进行本地训练；接下来，服务器对本地模型进行加权、聚合处理，得到新的全局模型；最后，重复进行本地训练以及对本地模型进行加权、聚合处理，直至得到最终的全局模型。本申请能够在隐私保护联邦学习技术下，实现对客户端模型更新的保护和对通信带宽的优化。新的保护和对通信带宽的优化。新的保护和对通信带宽的优化。

【技术实现步骤摘要】
分布式环境下隐私保护联邦学习方法、系统、设备及介质


[0001]本申请实施例涉及分布式机器学习
，特别涉及一种分布式环境下隐私保护联邦学习方法、系统、设备及介质。

技术介绍

[0002]为了解决分布式机器学习中存在隐私泄露的数据孤岛问题，隐私保护联邦学习在学术界和工业界都得到了广泛的探索。然而，现有的隐私保护联邦学习方法仍然存在高计算成本和高昂的通信开销，这会消耗过多的通信带宽并减慢模型的训练速度。除此之外，联邦学习所临的诸多潜在的攻击手段也是一个重要的问题。在现实情况中，假设如果有多家医院与一家联邦学习服务提供商合作训练模型，恶意服务提供商可以通过推理攻击很轻松地从医院的模型更新中获取患者的隐私信息。

技术实现思路

[0003]本申请实施例提供一种分布式环境下隐私保护联邦学习方法、系统、设备及介质，该方法在隐私保护联邦学习技术下，实现对客户端模型更新的保护和对通信带宽的优化。
[0004]为解决上述技术问题，第一方面，本申请实施例提供一种分布式环境下隐私保护联邦学习方法，包括以下步骤：步骤S1、分别生成同态加密的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种分布式环境下隐私保护联邦学习方法，其特征在于，包括：步骤S1、分别生成同态加密的公钥以及同态加密的私钥；步骤S2、对模型参数初始化处理，得到全局模型；使用同态加密的公钥对所述全局模型进行加密处理，得到加密后的全局模型，并将所述加密后的全局模型发送至客户端；步骤S3、基于所述加密后的全局模型，客户端进行本地训练；步骤S4、服务器对本地模型进行加权、聚合处理，得到新的全局模型；步骤S5、重复步骤S3和步骤S4，直至得到最终的全局模型。2.根据权利要求1所述的分布式环境下隐私保护联邦学习方法，其特征在于，所述分别生成同态加密的公钥以及同态加密的私钥，包括：选择一个2的幂、一个整数、一个大整数和一个实数；分别采样s
←
HWT(h)、a
←
R
qL
和e
←
DG(σ2)；按照下式，分别计算出同态加密的私钥、同态加密的公钥：其中，sk为同态加密的私钥；pk为同态加密的公钥；b
←‑
as+e(mod q
L
)；2的幂记为M＝(λ,q
L
)；整数记为h＝h(λ,q
L
)；大整数为高精度整数，记为P＝P(λ,q
L
)；实数记为σ＝σ(λ,q
L
)，λ为服务器所确定的同态加密的安全参数；分别采样a
′←
R
qL
、e
′←
DG(σ2)；按照下式，计算出同态乘法密钥：其中，evk为同态乘法密钥；b
′
＝
‑
a
′
s+e
′
+Ps2(mod P
·
q
L
)；在生成同态加密的私钥、同态加密的公钥之后，服务器将所述同态加密的私钥、所述同态加密的公钥发送至各个客户端。3.根据权利要求1所述的分布式环境下隐私保护联邦学习方法，其特征在于，所述对模型参数初始化处理，得到全局模型；使用同态加密的公钥对所述全局模型进行加密处理，得到加密后的全局模型，并将所述加密后的全局模型发送至客户端，包括：服务器对模型参数初始化处理，得到全局模型；服务器对所述全局模型进行压缩处理，得到压缩后的全局模型，压缩后的全局模型如下式所示：其中，为压缩后的全局模型；w0为全局模型；为传感基矩阵；压缩后的全局模型的压缩率为r＝m/n；服务器使用同态加密的公钥对全局模型进行加密处理，得到加密后的全局模型；服务器随机选择多个参与模型训练的客户端，并将所述加密后的全局模型发送至客户端。4.根据权利要求1所述的分布式环境下隐私保护联邦学习方法，其特征在于，所述基于所述加密后的全局模型，客户端进行本地训练，包括：客户端使用同态加密的私钥将所述加密后的全局模型进行解密处理，生成压缩后的模
型；客...

【专利技术属性】
技术研发人员：苗银宾，张一凡，杨丽，李兴华，
申请(专利权)人：西安电子科技大学，
类型：发明
国别省市：