本申请涉及深度神经网络技术领域，尤其涉及一种对抗样本检测方法、装置、电子设备及存储介质，其中，对抗样本检测方法包括：对待测样本进行局部直方图均衡化处理，得到预处理后的样本；提取所述预处理后的样本中的高频信息和低频信息，基于所述低频信息确定预测置信度梯度；将所述高频信息和所述预测置信度梯度输入预设的检测网络，以确定所述待测样本是否为对抗样本。本申请能够提高对抗样本检测的性能。
【技术实现步骤摘要】
本申请涉及深度神经网络，尤其涉及一种对抗样本检测方法、装置、电子设备及存储介质。
技术介绍
1、深度神经网络(deep neural networks，dnn)在各种视觉任务上取得了显著的成功。然而，最近的研究表明dnn容易受到对抗性样本的影响，这些样本是通过添加人类难以察觉的对抗性扰动产生的。这些对抗性的例子很容易导致dnn在高置信度下做出错误的预测。这些漏洞对dnn在实际应用中的安全性构成严重威胁，特别是在自动驾驶汽车和医疗诊断等敏感领域。
2、近年来，人们开发了许多防御方法，可分为三类:对抗性训练、对抗性净化和对抗性检测。对抗性训练致力于通过将对抗样本纳入训练过程来增强模型鲁棒性；对抗性净化旨在通过预处理输入样例来去除对抗性扰动。遗憾的是，对抗性训练和净化技术经常导致dnn应用中性能的下降。相比之下，对抗性检测提供了更灵活的解决方案。在应用dnn之前，通过添加检测模块来主动区分对抗样本和原始样本。然而，几项研究表明，当前的对抗样本检测方法仍然存在一定的缺陷。
技术实现思路
>1、本申请提供了一本文档来自技高网...
【技术保护点】
1.一种对抗样本检测方法，其特征在于，包括：
2.如权利要求1所述的对抗样本检测方法，其特征在于，所述对待测样本进行局部直方图均衡化处理，得到预处理后的样本，包括：
3.如权利要求1所述的对抗样本检测方法，其特征在于，所述提取所述预处理后的样本中的高频信息和低频信息，包括：
4.如权利要求1所述的对抗样本检测方法，其特征在于，所述基于所述低频信息确定预测置信度梯度，包括：
5.如权利要求1所述的对抗样本检测方法，其特征在于，所述将所述高频信息和所述预测置信度梯度输入预设的检测网络，以确定所述待测样本是否为对抗样本，包括：
6.一...
【技术特征摘要】
1.一种对抗样本检测方法，其特征在于，包括：
2.如权利要求1所述的对抗样本检测方法，其特征在于，所述对待测样本进行局部直方图均衡化处理，得到预处理后的样本，包括：
3.如权利要求1所述的对抗样本检测方法，其特征在于，所述提取所述预处理后的样本中的高频信息和低频信息，包括：
4.如权利要求1所述的对抗样本检测方法，其特征在于，所述基于所述低频信息确定预测置信度梯度，包括：
5.如权利要求1所述的对抗样本检测方法，其特征在于，所述将所述高频信息和所述预...
【专利技术属性】
技术研发人员：常晨霞，卢云飞，姚绍文，高嵩，
申请(专利权)人：云南民族大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。