一种基于层次化指标筛选的区块链联邦学习安全聚合框架制造技术

本发明专利技术公开了一种基于层次化指标筛选的区块链联邦学习安全聚合框架，涉及联邦学习技术领域，包括预训练阶段、正式训练阶段和聚合阶段，其中：预训练阶段，训练客户端参与预训练并将计算的loss值上传区块链；正式训练阶段，可信客户端训练模型并提供评分标准，训练客户端训练并上传本地模型参数，可信客户端对本地模型打分并计算其权重，上传模型信任分数和权重；聚合阶段，根据模型信任分数和权重进行模型聚合，获得本轮全局模型并上链。本发明专利技术通过将FLTrust算法对上传的本地模型进行信任评分聚合，排除恶意客户端，一定程度上应对拜占庭攻击，保证最终获得全局模型的准确性，通过loss预测与聚合权重加快聚合速度，用更少的收敛轮次获得较好的全局模型。敛轮次获得较好的全局模型。敛轮次获得较好的全局模型。

【技术实现步骤摘要】
一种基于层次化指标筛选的区块链联邦学习安全聚合框架


[0001]本专利技术涉及联邦学习
，尤其涉及一种基于层次化指标筛选的区块链联邦学习安全聚合框架。

技术介绍

[0002]联邦学习(Federated Learning，FL)系统是计算机科学方向的重要机器学习系统。联邦学习系统相比于传统分布式学习系统具有高安全性、高隐私性等特性，能够在保证机器学习模型准确性的同时最大限度地保证信息隐私安全。传统联邦学习系统在多个设备上进行协同训练，能够高效利用各客户端的数据资源。随着对数据隐私安全性的深度研究，为了打破中央服务器对联邦学习的限制，联邦学习逐渐与区块链相结合，创建了去中心化的联邦学习系统。使用区块链代替中央服务器的功能，提出BlockFL架构。并且在后续研究中不断完善FLChain框架结构，增加和完善激励机制，从各个方面加强FLChain框架的安全性和实用性。
[0003]区块链和联邦学习框架，打破了中央服务器的限制，在防止模型被外部攻击者窃取和篡改方面具有较高的安全性。然而，区块链和联邦学习结合框架在处理恶意客户端方面仍然存在明本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于层次化指标筛选的区块链联邦学习安全聚合框架，其特征在于，所述框架包括预训练阶段、正式训练阶段和聚合阶段，其中：所述预训练阶段：训练客户端参与预训练并将计算的loss值上传到所述区块链；所述正式训练阶段：可信客户端训练模型并提供评分标准，所述训练客户端训练并上传本地模型参数到所述区块链，所述可信客户端对本地模型打分，并计算所述本地模型的权重，所述可信客户端上传模型信任分数和所述权重；所述聚合阶段：根据所述模型信任分数和所述权重进行模型聚合，获得本轮全局模型，将所述全局模型上传到所述区块链，并开始下一轮训练。2.如权利要求1所述的联邦学习框架，其特征在于，所述预训练阶段包括如下步骤：S101：所有所述训练客户端都参与预训练，所述预训练经过预定轮次；S103：所述训练客户端在每轮次的预训练中，均计算本轮次训练中的所述loss值；S105：所述训练客户端将所述loss值上传到所述区块链中。3.如权利要求2所述的联邦学习框架，其特征在于，在所述预训练阶段，通过统计所述训练客户端的历史损失下降值来对损失下降程度的走向进行拟合，预测所述训练客户端未来损失下降值走向。4.如权利要求1所述的联邦学习框架，其特征在于，所述正式训练阶段包括如下步骤：S201：可信客户端通过训练得到可信模型参数，计算所述可信模型参数和全局模型参数之间的更新距离，将所述更新距离作为所述评分标准，上传所述评分标准到所述区块链；S203：所有所述训练客户端下载所述区块链上的所述全局模型，利用本地数据集进行训练，将训练获得的本地模型更新参数上传到所述区块链中的模型池；S205：所述可信客户端下载所述模型池中所有所述本地模型更新参数，根据所述评分标准对所述本地模型进行打分并计算裁剪值，所述可信客户端将信任分数与所述裁剪值上传到所述区块链；S207：根据所述训练客户端训练得到的loss值计算所述训练客户端本地模型的所述权重。5.如权利要求4所述的联邦学习框架，其特征在于，在所述步骤S203中，所述训练客户端接收到所述全局模型后，进行本地训练，计算本轮的所述损失下降值，将训练获得的本地模型和所述损失下降值上传所述区块链，所述...

【专利技术属性】
技术研发人员：马汝辉，褚学森，阮馨雨，王辰霈，施宏建，汪小川，董俊伟，刘渊，
申请(专利权)人：上海交通大学，
类型：发明
国别省市：