抗后门攻击的可信联邦学习方法、系统、设备及存储介质技术方案

本发明专利技术公开了一种抗后门攻击的可信联邦学习方法、系统、设备及存储介质，方法包括：首先，每个客户端进行本地模型训练，并发送训练后的模型参数给云服务器；然后，云服务器使用具有共识机制的TOPK作为一个强健的统计方法去识别良性参数和有毒参数；再次，云服务器聚合所有客户端的良性参数；最后，替换了现有方法在每次聚合阶段删除有毒参数，云服务器将有毒参数保留在模型中并分发给攻击者执行下一轮训练，防止了毒性向其他良性参数转移，确保后续能够准确和全面的识别出有毒参数。本发明专利技术首次发现毒迁移效应，并提出了相应的防御方法，改善了现有联邦后门防御方法由于毒迁移问题导致防御失败，模型预测性能衰减的问题。

【技术实现步骤摘要】

本专利技术属于联邦学习的，具体涉及一种抗后门攻击的可信联邦学习方法、系统、设备及存储介质。

技术介绍

1、联邦学习(fl)是一种隐私保护的分布式机器学习范式，它允许设备在不共享原始数据的情况下协同学习全局模型。然而，fl容易受到后门攻击的威胁—攻击者可以通过向服务器上传恶意参数来发起攻击。将有毒参数聚合到全局模型后，在推理期间，如果在输入图像上添加特定触发器时，模型将会给出指定的错误预测结果。

2、为了防御联邦学习中的后门攻击，现有的主流研究可分为两类。具体来说：(1)现有统计分布防御方法：通过使用各种统计指标来识别有毒参数，以减轻其影响。例如，silencer使用费舍尔信息来分析参数的重要性，以识别有毒参数，并在每轮训练过程中删除这些有毒参数。(2)现有稳健聚合方法：利用稳健统计方法在每次聚合步骤中过滤掉带有后门的参数。例如，rlr计算更新的符号值，并使用一致性机制在每轮聚合步骤中删除有毒参数。

3、上述的方法主要通过稳健的统计方法来识别有毒参数，然后在每轮聚合步骤中删除有毒参数。然而，许多最新的研究已经表明，这些稳健聚合解决方案本文档来自技高网...

【技术保护点】

1.抗后门攻击的可信联邦学习方法，其特征在于，包括下述步骤：

2.根据权利要求1所述抗后门攻击的可信联邦学习方法，其特征在于，所述云服务器使用具有共识机制的TOPK作为一个统计方法去识别良性参数和有毒参数，具体为：

3.根据权利要求2所述抗后门攻击的可信联邦学习方法，其特征在于，被识别为common参数的计算公式如下：

4.根据权利要求2所述抗后门攻击的可信联邦学习方法，其特征在于，被识别为outlier参数的计算公式如下：

5.根据权利要求1所述抗后门攻击的可信联邦学习方法，其特征在于，所述云服务器聚合所有客户端的良性参数，具体为：...

【技术特征摘要】

1.抗后门攻击的可信联邦学习方法，其特征在于，包括下述步骤：

2.根据权利要求1所述抗后门攻击的可信联邦学习方法，其特征在于，所述云服务器使用具有共识机制的topk作为一个统计方法去识别良性参数和有毒参数，具体为：

3.根据权利要求2所述抗后门攻击的可信联邦学习方法，其特征在于，被识别为common参数的计算公式如下：

4.根据权利要求2所述抗后门攻击的可信联邦学习方法，其特征在于，被识别为outlier参数的计算公式如下：

5.根据权利要求1所述抗后门攻击的可信联邦学习方法，其特征在于，所述云服务器聚合所有客户端的良性参数，具体为：

6.根据权利要求1所述抗后门攻击的可信联邦学习方...

【专利技术属性】
技术研发人员：毛莉，刘国志，林伟伟，
申请(专利权)人：广东警官学院广东省公安司法管理干部学院，
类型：发明
国别省市：