当前位置: 首页 > 专利查询>浙江大学专利>正文

一种针对语音联邦学习场景下的恶意客户端检测方法技术

技术编号:40749314 阅读:17 留言:0更新日期:2024-03-25 20:05
本发明专利技术公开了一种针对语音联邦学习场景下的恶意客户端检测方法。该方法为:基于历史模型更新来预测每个客户端在每次迭代中的语音模型;度量每次迭代中每个客户端的预测模型及其发送给服务器的模型之间的相似性;在每次迭代中根据统计数据将客户端分组为良性客户端和恶意客户端两个集群,并删除恶意客户端并在剩余的客户端上重新启动步骤4)‑7)的语音联邦学习进程,直至总训练迭代轮数结束,此时所有恶意客户端被删除。与现有检测方法相比,本发明专利技术可以检测到大多数恶意客户端,在面对大量恶意客户端的模型中毒攻击时具有优越的防御效果,同时,本方法还能与拜占庭式鲁棒联邦学习方法相结合,使语音联邦学习系统学习到准确的全局语音模型。

【技术实现步骤摘要】

本申请涉及信息安全,特别是涉及一种针对语音联邦学习场景下的恶意客户端检测方法


技术介绍

1、联邦学习是一种基于分散数据的新兴学习范式,多个客户端(例如智能手机、物联网设备、边缘数据中心)共同学习机器学习模型(称为全局语音模型),而无需与云服务器共享其本地训练数据。联邦学习迭代地执行以下三个步骤:服务器将当前全局语音模型发送给选定的客户端;全局语音模型每个选定的客户端基于本地训练数据对接收到的全局语音模型进行微调,并将模型更新发送回服务器;服务器根据聚合规则聚合接收到的模型,并更新全局语音模型。

2、然而,由于其分布式特性,联邦学习很容易受到模型中毒攻击,在这种攻击中,攻击者控制的恶意客户端通过向服务器发送操纵的模型来破坏全局语音模型。现有的针对模型中毒攻击的防御只对少数恶意客户端具有鲁棒性或者需要在服务器上有一个干净的、具有代表性的验证数据集,且当恶意客户端和良性客户端具有统计上无法区分的模型更新时,它是无效的。

3、因此,在服务器没有这样的验证数据集的典型语音联邦学习场景中,全局语音模型仍然可能被大量恶意客户端破坏。

...

【技术保护点】

1.一种针对语音联邦学习场景下的恶意客户端检测方法,其特征在于,该方法包括以下步骤:

2.根据权利要求1所述的针对语音联邦学习场景下的恶意客户端检测方法,其特征在于,在每次迭代中,步骤5)中,使用L-BFGS算法近似得到一个黑塞矩阵;基于L-BFGS算法的第t次迭代的近似黑塞矩阵计算公式如下:

3.根据权利要求2所述的针对语音联邦学习场景下的恶意客户端检测方法,其特征在于,步骤5)中,基于黑塞矩阵和柯西均值定理预测得到每个客户端的模型,具体为,客户端i在第t次迭代中的预测模型的计算公式如下:

4.根据权利要求1所述的针对语音联邦学习场景下的恶意客户端检...

【技术特征摘要】

1.一种针对语音联邦学习场景下的恶意客户端检测方法,其特征在于,该方法包括以下步骤:

2.根据权利要求1所述的针对语音联邦学习场景下的恶意客户端检测方法,其特征在于,在每次迭代中,步骤5)中,使用l-bfgs算法近似得到一个黑塞矩阵;基于l-bfgs算法的第t次迭代的近似黑塞矩阵计算公式如下:

3.根据权利要求2所述的针对语音联邦学习场景下的恶意客户端检测方法,其特征在于,步骤5)中,基于黑塞矩阵和柯西均值定理预测得到每个客户端的模型,具体为,客户端i在第t次迭代中的预测模型的计算公式如下:

4.根据权利要求1所述的针对语音联邦学习场景下的恶意客户端检测方法,其特征在于,步骤6)中,所述度量每个客户端的预测模型和服务器接收到的客户端模型之间的相似性,具体方法为:为每个客户端定义一个可疑分数,并在每次迭代中动态更新;客户端在第t次迭代中的可疑分数是之前n次迭代中客户端的预测模型及服务器收到的客户端模型的欧氏距离的平均值;客户端...

【专利技术属性】
技术研发人员:徐文渊陈艳姣白怡杰黄译慧
申请(专利权)人:浙江大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1