当前位置: 首页 > 专利查询>西华大学专利>正文

一种基于区块链的联邦学习隐私保护方法技术

技术编号:36860770 阅读:27 留言:0更新日期:2023-03-15 18:28
本发明专利技术涉及一种基于区块链的联邦学习隐私保护方法,包括步骤:任务发布者生成公私钥对,以及初始化全局模型,并将与联邦学习任务相关的参数签名后发布到区块链;各参与者从区块链更新全局模型后使用本地数据集进行本地训练得到局部模型,并用公钥将局部模型加密后发送至委员会;委员会对局部模型进行质量检测,对检测通过的局部模型进行全局模型聚合后发送至任务发布者;任务发布者更新全局模型并检测是否达到收敛要求,若未达到收敛要求,则重复执行上述步骤,直到全局模型达到收敛要求,智能合约为委员和各参与者会分发奖励。本发明专利技术保障了用户的本地数据集的机密性和用户参与联邦学习任务的积极性以及奖励分发的公平性。平性。平性。

【技术实现步骤摘要】
一种基于区块链的联邦学习隐私保护方法


[0001]本专利技术涉及区块链隐私保护
,特别涉及一种基于区块链的联邦学习隐私保护方法。

技术介绍

[0002]随着人工智能技术和大数据的发展,机器学习技术得到了广泛应用,然而机器学习技术需要大量的优质数据集作为训练数据,这与各机构不愿意共享数据集的现实相矛盾,联邦学习作为解决“数据孤岛”问题的有效方法受到了广泛关注。联邦学习主要包括分布式训练和聚合两个步骤,其中负责聚合步骤的联邦学习架构大致分为两类:一类是由一个集中式的聚合服务器负责聚合,但是存在聚合服务器单点故障和泄漏数据拥有者的隐私的问题。区块链的分布式特性与联邦学习有着天然的联系,然而,研究表明由用户每次上传的局部模型参数可以推测出其本地数据集的数据特征,从而造成用户的隐私泄漏,如何在公开透明的区块链环境下实现具有隐私保护的联邦学习聚合成为了一个挑战。
[0003]为了解决联邦学习中的用户隐私泄漏问题,国内外的研究学者设计了一系列基于区块链的隐私保护方法,根据加密方式的不同主要分为基于差分隐私(Differential Privacy,DP)、基于同态加密(Homomorphic Encryption,HE)以及基于多方计算(Multi

PartyComputation,MPC)的方式。其中基于差分隐私的方式主要通过在原始数据或模型参数中添加噪声来保护隐私,满足差分隐私的数据集可以抵抗对私有数据的任何分析,差分隐私为单个记录提供统计隐私保证,从而使数据无法恢复以保护数据属主的隐私,但添加噪声会对最终的模型收敛产生影响,从而降低模型准确度。而基于多方计算的方式和基于同态加密的方式只向参与方与协调方揭示计算结果,过程中并不会透露任何除计算结果外的额外信息。实际上,这两种方式类似,只在细节上有所差异,基于多方计算的方式对参与方之间的交互数据进行保护,保留了原有的准确定,具有很高的安全性保证,但该方式会产生大量额外的通信和计算成本。而基于同态加密的方式则对参与方与协调房之间的交互数据包进行保护,从而提供对半可信中心化协调方的安全性,且相较于基于多方计算的方式,同态加密运算量也有所降低。
[0004]对于基于区块链进行联邦学习聚合的框架中,由于区块链作为一个分布式公共账本,用户只需完成注册即可获得一个合法身份参与链上的一系列活动,因此系统用户完全可能作为恶意用户故意进行破坏模型收敛等的一系列活动。在这种情况下,如何保障全局模型依然能够收敛是非常重要的。除此之外,进行本地训练本身会消耗设备的计算开销和通信开销,如何提高用户训练的积极性,从而保障整个系统的灵活性,是需要考虑的现实问题。

技术实现思路

[0005]本专利技术的目的在于保障用户的本地数据集的机密性和用户参与联邦学习任务的积极性以及奖励分发的公平性,提供一种基于区块链的联邦学习隐私保护方法。
[0006]为了实现上述专利技术目的,本专利技术实施例提供了以下技术方案:一种基于区块链的联邦学习隐私保护方法,包括以下步骤:步骤1,任务发布者生成Pailler同态加密算法的同态公私钥对,以及初始化基于联邦学习的全局模型,并将全局模型中与联邦学习任务相关的参数签名后发布到区块链;步骤2,各意向的参与者从区块链更新全局模型后,使用本地数据集对全局模型进行本地训练,得到局部模型,并用同态公钥将局部模型加密后发送至委员会;步骤3,委员会对收到的各参与者的局部模型进行梯度质量检测,对检测通过的局部模型进行全局模型聚合,然后将聚合后的全局模型发送至任务发布者;步骤4,任务发布者更新全局模型,检测全局模型是否达到收敛要求,若未达到收敛要求,则重复执行步骤2

步骤3,直到全局模型达到收敛要求;若达到收敛要求,则执行下一步骤;步骤5,联邦学习任务结束,自动触发智能合约为委员和各参与者会分发奖励。
[0007]所述步骤1的具体步骤包括:任务发布者选择两个大素数p、q,随机选择参数,为乘法群内的一个元素,表示一个乘法群;计算,,lcm表示最小公倍数;生成基于Pailler同态加密算法的同态公钥,和同态私钥;任务发布者向区块链发送请求,S
p
为任务发布者使用sk
p
对Inf的签名,sk
p
为区块链为任务发布者分配的系统私钥;Inf为全局模型中与联邦学习任务相关的参数,且有:其中,address为任务发布者的地址;m为背书结点数量;N为意向的参与者数量;为初始化全局模型;Max
t
为最大迭代次数,t为迭代次数;money为预付金额;为奖励分发比例参数,;为连接符,表示和。
[0008]所述步骤1还包括步骤:智能合约验证签名S
p
,并检查任务发布者的账户余额,若余额不足则拒绝任务发布者的请求,否则从任务发布者的账户中冻结预付金额money,并为其联邦学习任务按照DPOS选举机制选择m个背书结点组成委员会。
[0009]所述步骤2的具体步骤包括:参与者i使用本地数据集对上一轮迭代的全局模型进行本地训练,得到本轮迭代的局部模型,t为迭代次数,i为第i个意向的参与者,1≤i≤N;参与者i将局部模型使用任务发布者的同态公钥进行加密,得到密文;并对密文用区块链为委员会成员分配的系统公钥pk
j
再次进行加密,计算,c为再次加密后的密文,j为第j个委员会成员,1≤j≤
m,表示用系统公钥pk
j
对密文加密;计算参与者i的签名,sk
i
为区块链为参与者i分配的系统私钥,表示用系统私钥对密文c签名,参与者i将信息数据发送至委员会。
[0010]所述步骤3的具体步骤包括:委员会收到参与者i发送的信息数据Model
i
后,先验证签名S
i
,若验证通过则计算密文,sk
j
为区块链为委员会成员j分配的系统私钥,表示用系统私钥对密文c解密;委员会计算各参与者i的局部模型的参数均值:通过对密文添加第一噪声,获得,将发送至任务发布者;任务发布者使用同态私钥对解密后,计算添加了第一噪声的局部模型参数均值Ave`;任务发布者使用同态公钥再次对Ave`进行加密,得到,将发送至委员会;委员会对进行消噪,得到参与者i的局部模型的参数均值;委员会对和分别添加第二噪声,得到和,并将和发送至任务发布者;任务发布者使用同态私钥对和解密后,得到和;计算皮尔逊相关系数:任务发布者将发送至委员会,委员会计算参与者i第t次迭代的质量参数:若的值为0,则参与者i的局部模型梯度质量检测不通过,第t轮迭代中参与者i的局部模型被丢弃,不参与全局模型聚合;委员会对梯度质量检测通过的局部模型进行聚合:
其中,为聚合后的全局模型;N1为局部模型通过梯度质量检测的参与者i的数量;委员会将聚合的全局模型发送至任务发布者。
[0011]所述步骤4的具体步骤包括:任务发布者接收到聚合的全局模型后使用同态私钥解密,得到;计算,为学习率,得到第t轮迭代的全局模型;检测全局模型是否达到收敛要求,若未达到收本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于区块链的联邦学习隐私保护方法,其特征在于:包括以下步骤:步骤1,任务发布者生成Pailler同态加密算法的同态公私钥对,以及初始化基于联邦学习的全局模型,并将全局模型中与联邦学习任务相关的参数签名后发布到区块链;步骤2,各意向的参与者从区块链更新全局模型后,使用本地数据集对全局模型进行本地训练,得到局部模型,并用同态公钥将局部模型加密后发送至委员会;步骤3,委员会对收到的各参与者的局部模型进行梯度质量检测,对检测通过的局部模型进行全局模型聚合,然后将聚合后的全局模型发送至任务发布者;步骤4,任务发布者更新全局模型,检测全局模型是否达到收敛要求,若未达到收敛要求,则重复执行步骤2

步骤3,直到全局模型达到收敛要求;若达到收敛要求,则执行下一步骤;步骤5,联邦学习任务结束,自动触发智能合约为委员和各参与者会分发奖励。2.根据权利要求1所述的一种基于区块链的联邦学习隐私保护方法,其特征在于:所述步骤1的具体步骤包括:任务发布者选择两个大素数p、q,随机选择参数,为乘法群内的一个元素,表示一个乘法群;计算,,lcm表示最小公倍数;生成基于Pailler同态加密算法的同态公钥,和同态私钥;任务发布者向区块链发送请求,S
p
为任务发布者使用sk
p
对Inf的签名,sk
p
为区块链为任务发布者分配的系统私钥;Inf为全局模型中与联邦学习任务相关的参数,且有:其中,address为任务发布者的地址;m为背书结点数量;N为意向的参与者数量;为初始化全局模型;Max
t
为最大迭代次数,t为迭代次数;money为预付金额;为奖励分发比例参数,;为连接符,表示和。3.根据权利要求2所述的一种基于区块链的联邦学习隐私保护方法,其特征在于:所述步骤1还包括步骤:智能合约验证签名S
p
,并检查任务发布者的账户余额,若余额不足则拒绝任务发布者的请求,否则从任务发布者的账户中冻结预付金额money,并为其联邦学习任务按照DPOS选举机制选择m个背书结点组成委员会。4.根据权利要求2所述的一种基于区块链的联邦学习隐私保护方法,其特征在于:所述步骤2的具体步骤包括:参与者i使用本地数据集对上一轮迭代的全局模型进行本地训练,得到本轮迭代的局部模型,t为迭代次数,i为第i个意向的参与者,1≤i≤N;参与者i将局部模型使用任务发布者的同态公钥进行加密,得到密文
;并对密文用区块链为委员会成员分配的系统公钥pk
j
再次进...

【专利技术属性】
技术研发人员:熊玲贾云燕耿加周牛宪华史沧红刘志才
申请(专利权)人:西华大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1