当前位置: 首页 > 专利查询>湖北大学专利>正文

异构数据下的联邦学习模型知识遗忘方法技术

技术编号:42894087 阅读:24 留言:0更新日期:2024-09-30 15:12
本发明专利技术公开一种异构数据下的联邦学习模型知识遗忘方法,对用户数据进行聚类和切片,在每个单独的切片上训练子联邦模型,最后再聚合产生全局模型。在还原学习任务中,只对相应的子联邦模型进行重训练,在保证数据隐私和精确删除数据的同时,大大减少了训练时间,实现在异质数据环境下,对联邦用户的私人数据和有害数据的快速和精确的清除。

【技术实现步骤摘要】

本专利技术涉及机器学习和联邦学习技术,具体涉及一种异构数据下的联邦学习模型知识遗忘方法


技术介绍

1、还原学习是一种从模型中删除特定数据的方法,通常在集中式的框架内操作,其中所有数据都收集在服务器上进行统一操作。然而,鉴于对隐私的担忧不断升级,数据所有者通常表示不愿分享他们的数据。在这种情况下,基于分布式机器学习范式的联邦学习使多个参与者能够协作训练共享模型,而无需直接交换原始数据的特点,引起了工业界和学术界的广泛关注。但是,当参与用户请求删除其数据时,原始联邦模型将无法继续使用。为了解决这一问题,业内提出了联邦还原学习方法。

2、联邦还原学习的主要目标是在保留数据隐私和安全性的同时实现彻底和有效地删除参与者或客户端贡献。其中最直接的方法就是重训练,该方法需要从头开始重新训练模型,以完全消除删除数据的影响。虽然这种方法保证了模型的准确性和一致性,但它引入了大量的计算开销和时间成本。从深度神经网络中删除一个数据可能需要重新训练数百万个参数,这可能需要几个小时甚至几天的时间。因此,在实际应用程序中,重训练的方法通常是代价高昂的

3、本文档来自技高网...

【技术保护点】

1.一种异构数据下的联邦学习模型知识遗忘方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的异构数据下的联邦学习模型知识遗忘方法,其特征在于,所述步骤2在对于单个切片中的联邦模型训练时,在切片内随机选择m个用户参与联邦训练;

3.根据权利要求1所述的异构数据下的联邦学习模型知识遗忘方法,其特征在于,所述步骤3的详细方法为:

【技术特征摘要】

1.一种异构数据下的联邦学习模型知识遗忘方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的异构数据下的联邦学习模型知识遗忘方法,其特征在于,所述步骤2在对于单...

【专利技术属性】
技术研发人员:杨洋王振刘军王丽玉
申请(专利权)人:湖北大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1