基于批标准化的多空间对抗样本防御方法及其装置制造方法及图纸

本发明专利技术公开了一种基于批标准化的多空间对抗样本防御方法及其装置。该多空间对抗样本防御方法用在自动驾驶训练场景中，包括如下步骤：利用来自不同域的对抗样本对门控批归一化模块进行训练，对抗样本为影响自动驾驶车辆识别图像的干扰因素；预测神经网络中对应前一层输出数据所属的域；将来自不同域的数据标准化对齐，得到域不变的特征；其中，利用批归一化层的每条分支标准化对齐来自某一特定域的数据；将每条分支标准化对齐后的数据进行聚合，得到域不变的特征。利用本发明专利技术可以有效提升深度神经网络的鲁棒性，特别适合在自动驾驶训练场景中应用。中应用。中应用。

【技术实现步骤摘要】
基于批标准化的多空间对抗样本防御方法及其装置


[0001]本专利技术涉及一种面向自动驾驶训练场景的需要，基于批标准化的多空间对抗样本防御方法，同时涉及采用该多空间对抗样本防御方法的自动驾驶训练装置，属于自动驾驶


技术介绍

[0002]对抗样本是指通过添加干扰产生能够导致机器学习模型产生错误判断的样本。目前，深度神经网络(DNNs)已经在众多领域的应用中取得了显著的成就，但它对对抗样本十分敏感。这些精心设计的对抗样本(即扰动)对于人类来说不可察觉，但很容易导致深度神经网络做出错误判断。这对深度神经网络在可靠性需求较大的场景，特别是自动驾驶训练场景中的应用提出了安全挑战。
[0003]为了提升模型针对对抗样本的鲁棒性，人们提出了一些对抗防御的方法。许多对抗防御的方法都基于对抗训练，它是一种通过对抗样本来扩充训练数据的方法。然而，绝大多数的对抗防御方法都只针对单个类型的扰动(比如微小的扰动)。这些防御方法无法保证能对其他扰动(如扰动)进行防御，而且有时反而会使模型对于其它类型的扰动变得更脆弱。为了解决这个问题，使模型能对多种类型的攻本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于批标准化的多空间对抗样本防御方法，用在自动驾驶训练场景中，其特征在于包括如下步骤：利用来自不同域的对抗样本对门控批归一化模块进行训练，所述对抗样本为影响自动驾驶车辆识别图像的干扰因素；预测神经网络中对应前一层输出数据所属的域；将来自不同域的数据标准化对齐，得到域不变的特征；其中，利用批归一化层的每条分支标准化对齐来自某一特定域的数据；将每条分支标准化对齐后的数据进行聚合，得到域不变的特征；所述域不变的特征的表达式为：式中，x为来自某一域的数据，g
k
表示门控子网络预测的x属于第k个域的置信度，为第k条分支标准化对齐后的数据。2.如权利要求1所述的多空间对抗样本防御方法，其特征在于：所述门控批归一化模块包括门控子网络；所述门控子网络设置在对应批归一化层的前端，用于预测神经网络中对应前一层输出数据所属的域。3.如权利要求1所述的多空间对抗样本防御方法，其特征在于：所述训练过程中，使用对抗攻击方法生成不同域的对抗样本；将不同域的对抗样本输入至门控子网络，得到门控子网络的预测域；监督不同预测域的对抗样本经过对应的分支，并更新对应分支运行时的统计量。4.如权利要求1所述的多空间对抗样本防御方法，其特征在于：所述训练过程中，针对门控子网络的预测，引入域预测损失函数进行参数优化。5.如权利要求1所述的多空间对抗样本防御方法，其特征在于：所述训练过程中，引入分类损失函数对各门控批归一化模块所在神经网络进行参数优化。6.一种自动...

【专利技术属性】
技术研发人员：刘艾杉，刘祥龙，汤诗宇，
申请(专利权)人：北京航空航天大学，
类型：发明
国别省市：