一种不依赖样本的联邦学习声纹识别后门攻击方法技术

本发明专利技术的一种不依赖样本的联邦学习声纹识别后门攻击方法，包括：(1)中心服务器构建联邦学习声纹识别模型并下发给客户机；(2)敌手客户机选择幽灵神经元，并将数据集进行切分；(3)使用数据集进行预训练，记录每个样本在幽灵神经元上的值，同时统计绘制直方图；(4)根据分布情况选择幽灵神经元的后门激活值；(5)开始训练，后门植入时敌手修改幽灵神经元的值为后门激活值，将标签修改为敌手指定的标签，非后门训练时不修改；(6)客户机上传模型，中心服务器将模型进行聚合，得到后门模型。本发明专利技术具有强隐蔽性，不依赖样本，不修改输入，使用良性数据集，无法通过数据审查被发现，对改进联邦学习声纹识别后门防御方法具有重要意义。

【技术实现步骤摘要】

本专利技术属于人工智能安全领域，具体涉及人工智能中声纹识别的后门攻击领域，更具体的是一种不依赖样本的联邦学习声纹识别后门攻击方法。

技术介绍

1、在语音领域中，深度学习技术被广泛应用在语音识别和声纹识别当中。这两种技术的迅速发展，大大便利了日常生活。比如在对手机银行或微信进行验证时，不再需要牢记不同银行所规定的规则不同的密码，仅需要录入用户的声纹，即可通过声音解锁app。然而声纹识别模型所使用的深度学习技术本身存在一些问题容易被利用进行攻击，例如后门攻击。后门攻击是在训练过程中人为地将指定的特征和特定的类相映射，使得模型在使用时，识别到指定的特征即可输出特定的错误类。

2、然而当前大量的后门攻击方法大多应用在图像领域。如申请号202310652261.0的专利申请公开了《一种面向人工智能安全的物理灯光后门攻击的训练方法》，该方法对目标对象进行灯光后门攻击,在图像上使用不同色的灯光触发后门。申请号202010077148.0的专利申请公开了《视频分析神经网络模型的后门攻击方法》，针对视频的高样本维度、高帧分辨率、稀疏数据集等更加严苛的后门攻击实施本文档来自技高网...

【技术保护点】

1.一种不依赖样本的联邦学习声纹识别后门攻击方法，用于人工智能中联邦学习计算范式下的对声纹识别任务的后门攻击领域，其特征在于：包括如下步骤：

2.如权利要求1所述的一种不依赖样本的联邦学习声纹识别后门攻击方法，其特征在于：所述步骤1具体为，中心服务器S构建联邦学习框架，并使用SincNet作为声纹识别全局模型G；中心服务器从所有客户机的合集中随机选择10个作为当前轮次的客户机合集C＝{C1，C2，C3，…，Cadv，CN}；初始化全局模型后，将模型下发给C中的所有客户机，其中每一轮C中都包含一个敌手Cadv。

3.如权利要求1所述的一种不依赖样本的联邦学习声纹识别...

【技术特征摘要】

1.一种不依赖样本的联邦学习声纹识别后门攻击方法，用于人工智能中联邦学习计算范式下的对声纹识别任务的后门攻击领域，其特征在于：包括如下步骤：

2.如权利要求1所述的一种不依赖样本的联邦学习声纹识别后门攻击方法，其特征在于：所述步骤1具体为，中心服务器s构建联邦学习框架，并使用sincnet作为声纹识别全局模型g；中心服务器从所有客户机的合集中随机选择10个作为当前轮次的客户机合集c＝{c1，c2，c3，…，cadv，cn}；初始化全局模型后，将模型下发给c中的所有客户机，其中每一轮c中都包含一个敌手cadv。

3.如权利要求1所述的一种不依赖样本的联邦学习声纹识别后门攻击方法，其特征在于：所述步骤2具体为，敌手客户机cadv查看全局模型g的结构，选择模型中的部分神经元作为幽灵神经元：在模型的最后一层隐藏层中，从第1个神经元开始，选择连续的1个、2个、5个、10个、15个、20个、30个、50个神经元作为幽灵神经元；所有客户机对所持有的本地私有数据进行预处理，将音频内容转化为wav格式，设置音频的长度为16000帧，并根据滑动窗口winsize和滑动距离winlong的大小，对数据集进行切分，扩充数据集；设置winsize＝200，winlong＝10滑动窗口从0帧开始滑动，每滑动一次都将窗口内的音频保存，然后向后滑动一个winlong；最后获得一个新的扩充后的训练数据集d＝{d1，d2，d3，…，dn}，n为本地数据集中的样本数。

4.如权利要求1所述的一种不依赖样本的联邦学习声纹识别后门攻击方法，其特征在于：所述步骤3具体为，所有客户机使用切分后的本地数据集d进行预训练，对于第i个样本di，模型在幽灵神经元处会产生一个值；客户机记录每个样本在每个幽灵神...

【专利技术属性】
技术研发人员：徐伟达，徐洋，张思聪，
申请(专利权)人：贵州师范大学，
类型：发明
国别省市：