System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种适配联邦学习的隐私保护可验证数据聚合方法及系统技术方案_技高网

一种适配联邦学习的隐私保护可验证数据聚合方法及系统技术方案

技术编号:41211849 阅读:5 留言:0更新日期:2024-05-09 23:34
本发明专利技术公开了一种适配联邦学习的隐私保护可验证数据聚合方法及系统,其通过参与联邦学习任务的各个客户端在本地训练出一个本地模型后,客户端之间协同计算加密参数后将模型梯度加密,并将加密后的密文发送给服务器进行聚合。在服务器在密文上聚合的结果与在原始明文上聚合的结果一致。聚合操作完成后,服务器将结果发送给各客户端进行验证。该方法避免了使用同态加密、安全多方计算、可验证计算等复杂的密码学操作,具有很高的效率。

【技术实现步骤摘要】

本专利技术涉及隐私计算领域,尤其涉及一种适配联邦学习的隐私保护可验证数据聚合方法及系统


技术介绍

1、传统的机器学习方法依赖位于数据中心或云的集中式ai框架来进行数据分析和模型训练,需要将分散在各个地方的数据集中收集,在数据中心进行模型训练。持有数据的个人或组织往往出于隐私或利益考虑而不愿共享数据,导致数据孤岛,从而无法进行有效地集中式训练。随着近年来,《数据安全法》、

2、《个人信息保护法》及gdpr、ccpa等法律法规的颁布,数据集中式训练更是面临着合规性的挑战。

3、为此,2016年google研究人员提出一种名为联邦学习(federated learning,fl)的分布式机器学习技术,目的是解决在多个移动设备上进行联合机器学习的难题。与传统的集中式机器学习不同,联邦学习无需将数据集中到数据中心。数据拥有者可在本地利用私有数据训练出一个本地模型提交给联邦学习服务器,可以实现在不共享数据的情况下,跨多个设备或服务器训练算法。采用联邦学习可以降低泄露用户隐私信息的危险。联邦学习已经得到了广泛的研究和应用,涉及的领域包括医疗保健、金融服务、智能制造等,已经成为人工智能领域的热点研究方向之一。

4、然而,现有研究表明,尽管联邦学习相比传统机器学习能够更好的保护用户隐私数据,但在联邦学习领域中仍然有多种攻击方法能够威胁到用户的隐私数据。这些攻击方法主要分为成员推理攻击、无意的数据泄漏和通过推理重建、基于gan的推理攻击,通过分析联邦学习模型的输出,可以推断用户的训练数据等敏感信息。为了解决上述问题,目前研究的联邦学习中保护用户隐私的主要方法分为同态加密和安全多方计算。然而,在联邦学习中使用同态加密和安全多方计算需要解决其带来的高计算成本或高通信开销;而差分隐私联邦学习虽然在一定程度上可以保护用户数据隐私,但差分隐私参数的选择对隐私保护和模型精度有显著影响,导致难以选择合适的设置。较大的噪声添加可能会降低模型精度,而较小的噪声添加可能会削弱隐私保护水平。

5、此外,恶意的联邦学习服务器可能会返回不正确的聚合结果。例如,恶意的联邦学习服务器可能出于节省自身计算成本的目的,会在某一轮联邦学习过程中故意返回上一轮的聚合结果给用户。因此,设计一种既能够保护用户隐私又能够验证服务器聚合结果正确性的联邦学习协议是很有意义的。


技术实现思路

1、有鉴于现有技术的上述缺陷,本专利技术提供了一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于包括:

2、步骤1:服务器生成全局公开参数,各客户端生成密钥对;

3、步骤2:各客户根据全局公开参数、密钥对以及各自的第一秘密值生成公开消息,将公开消息发送至服务器进行公开;公开消息包括第一数字签名和公钥;

4、步骤3:各客户端对其他客户端的第一数字签名进行验证,选取第二秘密值,将其第一秘密值以及第二秘密值拆分成与其他客户端一一对应的秘密份额,并生成相应的密文,发送至服务器进行公开;

5、步骤4:各客户端将对应的密文解密,得到其他客户端的消息,根据得到的消息对本地模型梯度进行加密,并将加密结果发送至服务器;

6、步骤5:每个客户端生成第二数字签名,发送至服务器进行广播,以用于消息验证;

7、步骤6:各客户端验证其他客户端的第二数字签名,并将保存的来自其他客户端的秘密份额上传至服务器;服务器利用shamir秘密共享算法重建第一秘密值和第二秘密值,并根据加密的本地模型梯度和各秘密值进行聚合,得到聚合结果;

8、步骤7:各客户端验证聚合结果。

9、本专利技术的进一步改进在于,步骤1包括:

10、步骤1.1:服务器选取两个p阶的循环乘法群g1,gt,一个生成元g,一个双线性映射函数e,一个哈希函数h:{0,1}*→g1,一个秘密共享的重建阈值t;

11、步骤1.2:全局公开参数(p,g,h,e,g1,gt,t);

12、步骤1.3:当客户端u输入安全参数κ时,输出密钥对(sku,pku);

13、步骤1.4:客户端将自己的公钥pku提交给ca进行身份认证。

14、本专利技术的进一步改进在于,步骤2包括:

15、步骤2.1:客户端u随机选取一个秘密值ru∈zp作为第一秘密值,计算yu:

16、

17、其中:zp是p阶整数域,zp={0,1,2,……,p-1};

18、步骤2.2:客户端u生成第一数字签名σu,其表达式为:

19、

20、步骤2.3:客户端u发送公开消息(yu||pku||σu)到服务器;

21、步骤2.4:服务器收集客户端发送的公开消息(yu||pku||σu),并将各客户端的集合表示为u1;检查|u1|≥t是否成立,如果不成立,则中止;

22、步骤2.5:向u1中的所有客户端广播列表

23、本专利技术的进一步改进在于,步骤3包括:

24、步骤3.1:客户端接受服务器发送的列表检查|u1|≥t是否成立,如果不成立,则中止;

25、步骤3.2:客户端验证列表中其他所有客户端的第一数字签名,验证方式为:对于e(∏σv,g)=∏e(h(yv||pkv),pkv);

26、步骤3.3:客户端u利用shamir秘密共享算法将第一秘密值ru拆分为|u1|个秘密份额:每一个份额对应集合|u1|中的一个客户端v;

27、步骤3.4:客户端u随机选择一个值du∈zp作为第二秘密值,并利用shamir秘密共享算法将du拆分为|u1|个秘密份额:

28、步骤3.5:客户端u随机选择一个值su∈zp,对于每个客户端v∈u1,利用非对称加密算法生成密文eu,v,其中eu,v只能由客户端v解密;

29、步骤3.6:客户端u将所有密文发送给服务器;

30、步骤3.7:服务器收集客户端发送的密文,并将该客户端的集合表示为u2;检查|u2|≥t是否成立;如果不成立,则中止;

31、步骤3.8:服务器向u2中的所有客户端广播列表

32、本专利技术的进一步改进在于,步骤4包括:

33、步骤4.1:客户端接收服务器发送的列表检查|u2|≥t是否成立;如果不成立,则中止;

34、步骤4.2:客户端u对客户端的集合u2中的每个客户端v,解密密文得到来自客户端v的消息(rv,u||dv,u||sv);

35、步骤4.3:每个客户端计算

36、步骤4.4:每个客户端利用伪随机数生成器prg获得两个随机向量a=prg(β||0)和b=prg(β||1);

37、步骤4.5:每个客户端u计算yu:

38、

39、步骤4.6:每个客户端加密自己的本地模型梯度xu,对于每个元素xu∈xu和计算cu和

40、cu=(1+p·(xu+du))·yumod p本文档来自技高网...

【技术保护点】

1.一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于包括:

2.根据权利要求1所述的一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于,步骤1包括:

3.根据权利要求2所述的一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于,步骤2包括:

4.根据权利要求3所述的一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于,步骤3包括:

5.根据权利要求4所述的一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于,步骤4包括:

6.根据权利要求5所述的一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于,步骤5包括:

7.根据权利要求6所述的一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于,步骤6包括:

8.根据权利要求7所述的一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于,步骤7包括:

9.根据权利要求1所述的一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于,本地模型梯度的获取方式为:各客户端从服务器下载当前的联邦学习的全局模型;各客户端利用随机梯度下降算法,使用保存在客户端本地的私有数据训练出一个本地模型,得到本地模型梯度。

10.一种联邦学习系统,其特征在于,包括服务器以及多个客户端,其特征在于,采用权利要求1至9中任一所述的适配联邦学习的隐私保护可验证数据聚合方法进行数据聚合。

...

【技术特征摘要】

1.一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于包括:

2.根据权利要求1所述的一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于,步骤1包括:

3.根据权利要求2所述的一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于,步骤2包括:

4.根据权利要求3所述的一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于,步骤3包括:

5.根据权利要求4所述的一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于,步骤4包括:

6.根据权利要求5所述的一种适配联邦学习的隐私保护可验证数据聚合方法,其特征在于,步骤5包括:

7.根据权...

【专利技术属性】
技术研发人员:魏立斐张蕾石荣泉
申请(专利权)人:上海海事大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1