对抗样本的检测方法、装置及设备制造方法及图纸

本申请是关于一种对抗样本的检测方法、装置及设备。该方法包括：将待检测样本输入深度学习模型，提取深度学习模型每层的特征图；将特征图进行协方差矩阵估计，获得待检测样本在深度学习模型的总置信度；将总置信度与预设阈值进行比较，当总置信度大于或等于预设阈值，判定待检测样本为对抗样本。本申请提供的方案，可以快速判断待检测样本是否为对抗样本，从而使攻击者无法实现对抗样本攻击。本申请的检测方法复杂度低，易于实现，且有助于提高深度学习的应用安全。

【技术实现步骤摘要】
对抗样本的检测方法、装置及设备
本申请涉及人工智能
，尤其涉及一种对抗样本的检测方法、装置及设备。
技术介绍
机器学习已经成为当前计算机领域研究和应用最广泛的技术之一，在图像处理、自然语言处理、网络安全等领域被广泛应用，给人类带来了极大的便利。尤其是近年来，随着机器学习中深度学习这一分支的蓬勃发展，深度学习在很多领域都取得了十分令人印象深刻的成绩,例如图像识别、目标检测、文本分析、推荐系统等。然而，对抗样本(Adversarialexamples)的发现，对深度学习的安全使用带来了极大的挑战,尤其是在自动驾驶、刷脸支付等对于安全敏感的领域，对抗样本的存在为其技术本身和落地应用带来了更多不确定性。其中，对抗样本是指在自然样本上添加微小的扰动而形成的样本。相较于原自然样本,此类样本的改变通常不影响肉眼判断，甚至于肉眼不可见，但可以使训练好的深度学习模型例如DNN(DeepNeuralNetworks，深度神经网络)以高置信度得出与原自然样本不同的输出。深度学习模型包括多种类型，例如包括DNN、CNN(ConvolutionalNeur本文档来自技高网...

【技术保护点】
1.一种对抗样本的检测方法，其特征在于，包括：/n将待检测样本输入深度学习模型，提取所述深度学习模型每层的特征图；/n将所述特征图进行协方差矩阵估计，获得所述待检测样本在所述深度学习模型的总置信度；/n将所述总置信度与预设阈值进行比较，当所述总置信度大于或等于所述预设阈值，判定所述待检测样本为对抗样本。/n

【技术特征摘要】
1.一种对抗样本的检测方法，其特征在于，包括：
将待检测样本输入深度学习模型，提取所述深度学习模型每层的特征图；
将所述特征图进行协方差矩阵估计，获得所述待检测样本在所述深度学习模型的总置信度；
将所述总置信度与预设阈值进行比较，当所述总置信度大于或等于所述预设阈值，判定所述待检测样本为对抗样本。


2.根据权利要求1所述的方法，其特征在于，所述将所述特征图进行协方差矩阵估计，包括：
将所述特征图进行Wishart分布的协方差矩阵抗差估计。


3.根据权利要求1所述的方法，其特征在于，所述将待检测样本输入深度学习模型，提取所述深度学习模型每层的特征图，包括：
将待检测样本输入卷积神经网络，获取所述卷积神经网络每层的特征图。


4.根据权利要求3所述的方法，其特征在于，所述获得所述待检测样本在所述深度学习模型的总置信度，包括：
获取所述待检测样本在所述卷积神经网络每层的置信度；
将每层的所述置信度进行加权运算后，得到所述待检测样本在所述深度学习模型的总置信度。


5.根据权利要求4所述的方法，其特征在于，所述获取所述待检测样本在所述卷积神经网络每层的置信度，包括：
根据Wishart分布的概率密度函数，得到矩阵马氏距离；
根据...

【专利技术属性】
技术研发人员：赵存会，田万，朱晓宁，吴喆峰，
申请(专利权)人：精英数智科技股份有限公司，
类型：发明
国别省市：山西;14