【技术实现步骤摘要】
本专利技术涉及联邦学习，具体的说，涉及一种基于梯度可信度的联邦学习投毒攻击检测方法。
技术介绍
1、联邦学习是一种新兴的分布式机器学习方法，它允许模型在多个设备或机构之间进行训练，而无需集中数据。这种方法特别适用于需要保护隐私或遵循数据保护法规的场景，如医疗、金融和物联网等领域。此外，联邦学习可以提高模型的泛化能力，因为它能够利用分散在不同设备上的多样性数据。然而，这种架构也使其容易受到投毒攻击，投毒攻击是指恶意参与者故意提交错误或有害的更新，以影响最终模型的性能。
2、在联邦学习中，每个客户端本地训练模型，并将其更新发送到中央服务器。攻击者可以通过提交虚假或不当的更新，操控模型的训练过程，从而导致模型偏向于攻击者的目标。虽然联邦学习在保护隐私和分散计算方面具有显著优势，但其安全性仍需进一步加强。现有的技术中，针对投毒攻击的检测方法，大多考虑的情况都是恶意客户端数量小于50％，而较少关注恶意客户端数量较大的情况，因此在应对恶意客户端数量大于50％的情况下检测效果会明显下降，同时在不同训练数据集上训练时应对不同的投毒攻击时，也...
【技术保护点】
1.一种基于梯度可信度的联邦学习投毒攻击检测方法，其特征在于，包括如下步骤：
2.根据权利要求1所述的基于梯度可信度的联邦学习投毒攻击检测方法，其特征在于，步骤1中，所有客户端将训练结果发送给验证方进行验证，并发送给中央服务器进行梯度可信度的计算。
3.根据权利要求1所述的基于梯度可信度的联邦学习投毒攻击检测方法，其特征在于，步骤2中，验证方从图像数据集中选取部分充当验证集，选择k个不同类别的样本，k为当前分类任务下的类别数，并对验证集按类别划分，基于类损失值的差值对本地模型进行验证，在同一类下，分别计算上一轮全局模型的损失值以及当前本地模型的...
【技术特征摘要】
1.一种基于梯度可信度的联邦学习投毒攻击检测方法，其特征在于，包括如下步骤：
2.根据权利要求1所述的基于梯度可信度的联邦学习投毒攻击检测方法，其特征在于，步骤1中，所有客户端将训练结果发送给验证方进行验证，并发送给中央服务器进行梯度可信度的计算。
3.根据权利要求1所述的基于梯度可信度的联邦学习投毒攻击检测方法，其特征在于，步骤2中，验证方从图像数据集中选取部分充当验证集，选择k个不同类别的样本，k为当前分类任务下的类别数，并对验证集按类别划分，基于类损失值的差值对本地模型进行验证，在同一类下，分别计算上一轮全局模型的损失值以及当前本地模型的损失值，并计算二者的差值，在所有类下重复此操作，完成对当前本地模型的验证；汇总所有本地模型的验证结果到数组r中，并将验证结果r发送给中央服务器。
4.根据权利要求3所述的基于梯度可信度的联邦学习投毒攻击检测方法，其特征在于，所述的验证结果r是一个二维数组，表达式为其中n为参与训练的客户端数量，k为类别数，表示本地模型wp，在类别cq下与全局模型的损失值差值，所述的损失值表达式为l(w,y)＝-log(py)，其中y表示分类标签，p...
【专利技术属性】
技术研发人员：胡小明，时英龙，白双杰，刘琰，
申请(专利权)人：上海第二工业大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。