基于FISCO群组机制的联邦学习系统技术方案

技术编号:41741421 阅读:16 留言:0更新日期:2024-06-19 13:01
本发明专利技术公开了基于FISCO群组机制的联邦学习系统,包括监管节点群组和多个层次的客户端群组,针对任一个客户端,获取并根据初始化的或者上一次学习迭代得到的全局模型,进行本地训练更新,得到更新后的本地模型;针对任一个客户端群组,基于实用拜占庭容错共识机制和基于余弦相似度的恶意节点筛选机制,得到更新后的局域模型;基于区块链或监管节点,聚合得到更新后的全局模型;直至满足预设的联邦学习收敛条件,否则进入下一轮的联邦学习。本发明专利技术通过划分不同层次的客户端群组,在保留安全性和去中心化的同时,保障了区块链系统的隐私性;其次,监管节点的引入,不仅可以起到跨机构的穿透式监管,还可以大大提升模型聚合的效率。

【技术实现步骤摘要】

本专利技术涉及基于fisco群组机制的联邦学习系统,属于联邦学习。


技术介绍

1、随着大数据和人工智能等新一代信息技术的快速发展,机器学习已经得到广泛的应用。机器学习需要大量的数据来训练,然而传统的机器学习一般都要求将所有数据集中在一个中央服务器上进行训练。由于数据安全和隐私问题,各个机构或者个人不愿意共享数据,从而造成数据孤岛问题。

2、联邦学习为数据孤岛问题提供了一个可行的解决方案。联邦学习是一种新的机器学习范式,它可以在保证各个机构的数据不出本地的情况下,使得各个机构共同训练一个共享的全局模型,从而在保证隐私的前提下有效解决数据孤岛问题。

3、然而传统的联邦学习架构需要一个中央服务器,这个中央服务器需要收集并聚合所有客户端的模型或者更新。中央服务器对于传统的联邦学习非常重要,它拥有所有客户端的模型信息,还可以决定全局模型的更新方向。但是,这种中心式联邦学习架构有两个问题:一是中央参数服务器的可信性问题,即中央服务器的所有操作对于客户端来说是不可见、不透明的,客户端无法验证自己的本地模型是否被服务器正确接收;二是所有的客户端模型本文档来自技高网...

【技术保护点】

1.基于FISCO群组机制的联邦学习系统,其特征是,包括监管节点群组和多个层次的客户端群组,一个客户端群组包括多个客户端,一个层次的客户端群组下属有多个下一层次的客户端群组;所述监管节点群组包括多个层次的监管节点,一个监管节点用于监控同一层级的一个或多个客户端群组;

2.根据权利要求1所述的基于FISCO群组机制的联邦学习系统,其特征是,所述得到客户端的更新后的本地模型,包括如下步骤:

3.根据权利要求2所述的基于FISCO群组机制的联邦学习系统,其特征是,所述本地损失的表达式为:

4.根据权利要求1所述的基于FISCO群组机制的联邦学习系统,其特征是...

【技术特征摘要】

1.基于fisco群组机制的联邦学习系统,其特征是,包括监管节点群组和多个层次的客户端群组,一个客户端群组包括多个客户端,一个层次的客户端群组下属有多个下一层次的客户端群组;所述监管节点群组包括多个层次的监管节点,一个监管节点用于监控同一层级的一个或多个客户端群组;

2.根据权利要求1所述的基于fisco群组机制的联邦学习系统,其特征是,所述得到客户端的更新后的本地模型,包括如下步骤:

3.根据权利要求2所述的基于fisco群组机制的联邦学习系统,其特征是,所述本地损失的表达式为:

4.根据权利要求1所述的基于fisco群组机制的联邦学习系统,其特征是,所述得到所述客户端群组的更新后的局域模型,包括如下步骤:

5.根据权利要求4所述的基于fisco群组机制的联邦学习系统,其特征是,所述余弦...

【专利技术属性】
技术研发人员:李晓丽陈正董泽华徐德刚刘家磊谷琼
申请(专利权)人:湖北文理学院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1