一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析方法、电子设备及存储介质技术

技术编号:41878209 阅读:12 留言:0更新日期:2024-07-02 00:31
本发明专利技术涉及一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析方法、电子设备及存储介质,该方法包括:所有客户端在干净的标签数据和无标签数据上进行联邦半监督训练,得到接近收敛的全局模型;评估者投毒特定客户端的本地无标签数据,向带特定自然特征的样本上加对抗扰动,使得中毒样本的特征和预测结果都接近目标类别的标签样本;每一轮更新训练中,中毒客户端在干净的标签数据和中毒的无标签数据上进行训练,然后放大得到的恶意模型的权重;各个客户端分别将本地的模型更新上传至服务器,服务器将收到的所有更新进行聚合,得到新一轮的带后门的全局模型。与现有技术相比,本发明专利技术能够向FSSL成功植入隐蔽的语义后门。

【技术实现步骤摘要】

本专利技术涉及网络安全分析,尤其是涉及一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析方法、电子设备及存储介质


技术介绍

1、近年来,联邦学习(federated learning,fl)得到了广泛的关注和应用。在fl场景中,分散的客户端共同参与训练一个全局的机器学习模型,各客户端本地的训练数据和过程无法被其他客户端和服务器访问。这种模式能够防止本地数据泄漏,有利于用户的隐私保护。当前,fl中的每个客户端往往采取监督学习作为本地训练环境,其中所有训练样本都带有标签。

2、然而,标注大规模的数据需要高昂的人力成本,因此联邦半监督学习(federatedsemi-supervised learning,fssl)将是一个更好的选择。在fssl中,客户端采用半监督学习(semi-supervised learning,ssl)进行本地训练,其中训练数据由少量的标签样本和大量的无标签样本构成。fssl结合了fl和ssl两者的优势,既能保护用户隐私,又可以减少对人力监督的依赖。

3、目前,针对后门的脆弱性评估逐渐成为机器学习模型的一大安本文档来自技高网...

【技术保护点】

1.一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析方法,其特征在于,所述步骤S1的具体过程为:

3.根据权利要求2所述的一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析方法,其特征在于,所述客户端在进行本地SSL训练时,其训练通用目标为最小化通用损失函数:

4.根据权利要求3所述的一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析方法,其特征在于,所述针对标签数据集的损失函数具体为:

5.根据权利要求4所述的一种基于语义...

【技术特征摘要】

1.一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析方法,其特征在于,所述步骤s1的具体过程为:

3.根据权利要求2所述的一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析方法,其特征在于,所述客户端在进行本地ssl训练时,其训练通用目标为最小化通用损失函数:

4.根据权利要求3所述的一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析方法,其特征在于,所述针对标签数据集的损失函数具体为:

5.根据权利要求4所述的一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析方法,其特征在于,所述针对无标签数据集的损失函数具体为:

6.根据权利要求1所述的一种基于语义扰动的联邦半监督学习模型的后门脆弱性分析...

【专利技术属性】
技术研发人员:李高磊童颖睿易啸宇兰昆李建华
申请(专利权)人:上海交通大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1