本申请公开一种面向联邦学习的分布式存储方法、装置、设备及介质，所述方法包括：接收任务发布者在智能合约上发布的训练任务；在通过所述智能合约获取初始模型后，联邦学习节点利用本地数据对所述初始模型进行训练得到局部模型，并确定局部模型的哈希值；联邦学习节点将局部模型的哈希值以及局部模型存放至分布式存储系统，并将局部模型的哈希值交易至所述智能合约；在通过PoA共识机制中投票选举的方式确定本轮训练的权威节点后，权威节点根据所述智能合约中本轮局部模型的哈希值来查找所述分布式存储系统中存放的局部模型；权威节点将局部模型进行聚合后得到全局模型。本申请能降低共识过程中各节点的算力消耗和区块链的存储压力。的存储压力。的存储压力。
【技术实现步骤摘要】
一种面向联邦学习的分布式存储方法、装置、设备及介质
[0001]本申请涉及区块链和联邦学习
，特别涉及一种面向联邦学习的分布式存储方法、装置、设备及介质。
技术介绍
[0002]随着人工智能的迅速发展与广泛应用，神经网络模型的规模日益增大，普通的硬件设备已难以支持大规模的神经网络训练。因此，作为一种分布式的机器学习框架，联邦学习被提出用于横向拓展模型训练的规模，并且克服数据孤岛的问题。但是，传统的联邦学习存在单点服务器失效、中心化服务器参数隐私泄露以及模型容易受到中毒攻击的问题。一方面，当单点服务器受到恶意攻击或者发生宕机现象时，数据和模型的安全、隐私会受到威胁。另一方面，训练的模型容易受到客户端的恶意篡改，导致模型的训练效率会受到极大的影响。
[0003]为了解决上述问题，常见的方法通过将区块链技术与联邦学习架构结合起来，以区块链共识技术来代替传统联邦学习的中心聚合，实现去中心化的联邦学习。
[0004]区块链技术是一种全新的分布式架构与计算范式，部署在计算机系统上。区块链系统中可以通过部署智能合约，满足不同的业务需求。智能合约是一段运行在区块链上的程序代码，节点可以通过发送交易的方式与智能合约交互。在联邦学习的业务场景中，任务发布者可以在智能合约上声明训练任务的具体信息，并通过发布合约的方式启动训练任务。
[0005]目前，大多数基于区块链的联邦学习系统使用的是基于PoW(工作量证明)的共识机制，在每一轮共识中，先下发数学任务，为了获得记账权和区块奖励，区块链节点会通过不断枚举和尝试的方式来解决数学任务，导致在区块链共识过程中耗费大量算力。
技术实现思路
[0006]本申请提供了一种面向联邦学习的分布式存储方法、装置、设备及介质，不仅能够降低共识过程中的节点算力的消耗，还能减缓区块链的存储压力。
[0007]为了实现上述目的，本申请采用如下技术方案：
[0008]第一方面，本申请提供了一种面向联邦学习的分布式存储方法，包括：
[0009]S1、接收任务发布者在智能合约上发布的训练任务，其中，所述智能合约部署在区块链上；
[0010]S2、在通过所述智能合约获取初始模型后，联邦学习节点利用本地数据对所述初始模型进行训练得到局部模型，并确定局部模型的哈希值；
[0011]S3、联邦学习节点将局部模型的哈希值以及局部模型存放至分布式存储系统，并将局部模型的哈希值交易至所述智能合约，其中，局部模型的哈希值与局部模型是一种键与值的关系；
[0012]S4、各普通节点在通过PoA共识机制中投票选举的方式确定本轮训练的权威节点
后，权威节点根据所述智能合约中本轮局部模型的哈希值来查找所述分布式存储系统中存放的局部模型；
[0013]S5、权威节点将查找到的局部模型进行聚合后得到本轮训练的全局模型，并在确定全局模型的哈希值之后，将全局模型的哈希值以及全局模型存放至分布式存储系统中。
[0014]通过采用上述技术方案，本方案在联邦学习引入区块链技术的场景下，先是通过在区块链上部署智能合约，并在智能合约中写入联邦学习的训练任务及基础模型，各联邦学习节点即可利用本地数据来训练通过智能合约接收到的基础模型，实现了满足数据隐私需求的前提下，对分散在各个联邦学习节点中的数据的整合和利用；各联邦学习节点利用本地数据训练基础模型得到局部模型之后，会生成相对应的哈希值，并将局部模型和哈希值通过键与值的关系存在分布式存储系统中，同时将哈希值交易到智能合约中，在区块链中智能合约中存储哈希值，然后通过哈希值从分布式存储系统中查找到相应的模型，能够有效缓解区块链的存储压力；在选取权威节点时，通过各普通节点根据对其他普通节点的认可度即可确定投票对象，进而选举出权威节点用来作为负责聚合模型的节点，由于普通节点之间的认可度是可以提前确定的，所以只需要记录下各普通节点的投票对象从中确定权威节点，不仅能够防止普通节点为了获得记账权而消耗大量算力，还能够减少共识时间而提高出块的速度，进一步降低了共识过程中的算力资源消耗。
[0015]根据本申请第一方面的一种能够实现的方式，所述方法还包括：
[0016]普通节点监督权威节点的行为，并判断权威节点的行为是否非法；
[0017]若权威节点的行为是非法的，则普通节点将再次通过投票选举的方式来确定本轮训练中新的权威节点。
[0018]根据本申请第一方面的一种能够实现的方式，所述权威节点将查找到的局部模型进行聚合后得到本轮训练的全局模型，包括：
[0019]权威节点将查找到的局部模型进行检验，得到局部模型的准确率；
[0020]将准确率高于阈值的局部模型作为目标局部模型，通过权威节点将所有目标局部模型进行聚合，得到本轮训练的全局模型。
[0021]根据本申请第一方面的一种能够实现的方式，所述权威节点将查找到的局部模型进行聚合后得到本轮训练的全局模型，包括：
[0022]权威节点对查找到的局部模型进行验证，得到局部模型的准确率；
[0023]在根据各局部模型的准确率来确定各局部模型的加权值之后，权威节点根据各局部模型的加权值将所有局部模型进行加权聚合，得到本轮训练的全局模型。
[0024]根据本申请第一方面的一种能够实现的方式，在确定全局模型的哈希值之后，还包括：
[0025]S6、所述权威节点将全局模型的哈希值交易至所述智能合约；
[0026]S7、联邦学习节点根据所述全局模型的哈希值来查找所述分布式存储系统中存放的全局模型；
[0027]S8、将所述全局模型作为新的初始模型重复步骤S2
‑
S8，直至所述全局模型满足所述训练任务中的目标条件。
[0028]第二方面，本申请还提供了一种面向联邦学习的分布式存储装置，包括：
[0029]接收模块，用于接收任务发布者在智能合约上发布的训练任务，其中，所述智能合
约部署在区块链上；
[0030]训练模块，用于在通过所述智能合约获取初始模型后，联邦学习节点利用本地数据对所述初始模型进行训练得到局部模型，并确定局部模型的哈希值；
[0031]存储模块，用于控制联邦学习节点将局部模型的哈希值以及局部模型存放至分布式存储系统，并将局部模型的哈希值交易至所述智能合约，其中，局部模型的哈希值与局部模型是一种键与值的关系；
[0032]共识模块，用于通过各普通节点在通过PoA共识机制中投票选举的方式确定本轮训练的权威节点后，权威节点根据所述智能合约中本轮局部模型的哈希值来查找所述分布式存储系统中存放的局部模型；
[0033]聚合模块，用于控制权威节点将查找到的局部模型进行聚合后得到本轮训练的全局模型，并在确定全局模型的哈希值之后，将全局模型的哈希值以及全局模型存放至分布式存储系统中。
[0034]第三方面，本申请实施例提供一种电子设备，包括存储器、处理器以及存储在所述存储器中并能在所述处理器上运行的计算机程序，所述处理器执行所述计算本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种面向联邦学习的分布式存储方法，其特征在于，包括：S1、接收任务发布者在智能合约上发布的训练任务，其中，所述智能合约部署在区块链上；S2、在通过所述智能合约获取初始模型后，联邦学习节点利用本地数据对所述初始模型进行训练得到局部模型，并确定局部模型的哈希值；S3、联邦学习节点将局部模型的哈希值以及局部模型存放至分布式存储系统，并将局部模型的哈希值交易至所述智能合约，其中，局部模型的哈希值与局部模型是一种键与值的关系；S4、各普通节点在通过PoA共识机制中投票选举的方式确定本轮训练的权威节点后，权威节点根据所述智能合约中本轮局部模型的哈希值来查找所述分布式存储系统中存放的局部模型；S5、权威节点将查找到的局部模型进行聚合后得到本轮训练的全局模型，并在确定全局模型的哈希值之后，将全局模型的哈希值以及全局模型存放至分布式存储系统中。2.根据权利要求1所述面向联邦学习的分布式存储方法，其特征在于，所述方法还包括：普通节点监督权威节点的行为，并判断权威节点的行为是否非法；若权威节点的行为是非法的，则普通节点将再次通过投票选举的方式来确定本轮训练中新的权威节点。3.根据权利要求1所述面向联邦学习的分布式存储方法，其特征在于，所述权威节点将查找到的局部模型进行聚合后得到本轮训练的全局模型，包括：权威节点对查找到的局部模型进行检验，得到局部模型的准确率；将准确率高于阈值的局部模型作为目标局部模型，通过权威节点将所有目标局部模型进行聚合，得到本轮训练的全局模型。4.根据权利要求1所述面向联邦学习的分布式存储方法，其特征在于，所述权威节点将查找到的局部模型进行聚合后得到本轮训练的全局模型，包括：权威节点对查找到的局部模型进行验证，得到局部模型的准确率；在根据各局部模型的准确率来确定各局部模型的加权值之后，权威节点根据各局部模型的加权值将所有局部模型进行加权聚合，得到本轮训练的全局模型。5....
【专利技术属性】
技术研发人员：余荣，詹湘烁，魏博众，康嘉文，王思明，谭北海，
申请(专利权)人：广东工业大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。