当前位置: 首页 > 专利查询>大连大学专利>正文

一种基于投毒攻击干预训练的纵向联邦忘却学习方法技术

技术编号:42686720 阅读:36 留言:0更新日期:2024-09-10 12:34
本发明专利技术提供一种基于投毒攻击干预训练的纵向联邦忘却学习方法,首先通过泰勒近似展开式优化参与方在本地训练时的损失函数,然后采用Paillier同态加密算法对参与方的中间参数进行加密,防止服务器破解中间参数从而掌握本地数据;并提出了一种能够检测出遭受投毒攻击的恶意样本的机制,该机制通过利用存储在服务器上的基准数据集对参与方本地模型的中间参数进行异常检测来识别恶意样本;最后利用参数回滚的方式将正常的中间参数替换掉受到恶意样本影响的中间参数,这样不仅恢复了遭受投毒攻击的模型性能,而且模型不需要进行额外的恢复训练,甚至精度会高于无投毒攻击的模型精度。

【技术实现步骤摘要】

本专利技术属于数据安全隐私保护领域,涉及隐私计算、联邦学习技术及联邦忘却学习技术,具体为一种基于投毒攻击干预训练的纵向联邦忘却学习方法


技术介绍

1、当前互联网中充斥着用户产生的各种数据,在这些数据中,夹杂着用户的隐私和敏感信息,数据安全问题日益凸显。随着机器学习技术的发展,很多用户的数据都被用来训练模型,但是传统的机器学习需要将所有用户数据集中训练,这就导致训练数据的安全性无法保证。

2、随着数据的价值被更多企业挖掘出来,人们对数据的所有权也越来越重视。相关法律也赋予了用户对自己数据的所有权。例如欧盟发布了《通用数据保护条例》,加利福尼亚州颁布了《加利福尼亚州消费者隐私法》。这些法律不仅明确了用户对数据的所有权,而且给予了用户对于数据的可删除权,意味着用户可以要求企业或者模型清除自己的数据产生的影响。联邦学习正是在该背景下诞生的,它是一种机器学习的特殊范式。在联邦学习的训练过程中,每个用户作为一个客户端能够在本地训练数据,这样就避免了将数据暴露给其他客户端的风险,然后将训练结果发送给服务器,由服务器完成最后的聚合任务。联邦学习不仅能够保护用本文档来自技高网...

【技术保护点】

1.一种基于投毒攻击干预训练的纵向联邦忘却学习方法,其特征在于,该方法包括以下步骤:

2.根据权利要求1所述的一种基于投毒攻击干预训练的纵向联邦忘却学习方法,其特征在于,所述步骤1具体包括:

3.根据权利要求1或2所述的一种基于投毒攻击干预训练的纵向联邦忘却学习方法,其特征在于,所述步骤2具体包括:

4.根据权利要求2所述的一种基于投毒攻击干预训练的纵向联邦忘却学习方法,其特征在于,所述步骤3具体包括:

5.根据权利要求4所述的一种基于投毒攻击干预训练的纵向联邦忘却学习方法,其特征在于,所述步骤4具体包括:参与方A和B各自生成一个正规参数序...

【技术特征摘要】

1.一种基于投毒攻击干预训练的纵向联邦忘却学习方法,其特征在于,该方法包括以下步骤:

2.根据权利要求1所述的一种基于投毒攻击干预训练的纵向联邦忘却学习方法,其特征在于,所述步骤1具体包括:

3.根据权利要求1或2所述的一种基于投毒攻击干预训练的纵向联邦忘却学习方法,其特征在于,所述步骤2具体包括:

4.根据权利要求2所述的一种基于投毒攻击干预训练的纵向联邦忘却学习方法,其特征在于,所述...

【专利技术属性】
技术研发人员:周东生郭昕桐张昊王鹏飞
申请(专利权)人:大连大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1