【技术实现步骤摘要】
一种深度神经网络图像对抗样本检测方法和系统
本专利技术是关于一种深度神经网络图像对抗样本检测方法和系统，属于图像处理
技术介绍
深度学习是人工智能领域的重要分支，其已被广泛的用于处理各种任务，比如图像识别、语音识别以及自然语言处理等。采用深度神经网络对图像进行识别取得了良好效果，在处理图像分类任务时，一些基于深度神经网络的分类器甚至能够表现的比人更好。与此同时，深度神经网络自身的安全性也吸引了越来越多的关注。近年来，攻击者通过向原始图像中添加人眼不可察觉的扰动，构造出相应的对抗样本。对抗样本可造成已经训练好的分类器出现严重的错误分类现象。目前，越来越多的人工智能应用，如人脸识别、自动驾驶等，其依附的主要技术都是图像识别。对抗样本的存在使得这些应用面临着巨大的安全风险。举例而言，某公司采用一套人脸识别软件作为其门禁系统，非该公司的员工可以通过构造对抗样本来欺骗该人脸识别软件，进而混入公司。再比如，通过构造路标对抗样本，攻击者可使得装备了特定深度神经网络分类器的自动驾驶汽车出现错误的驾驶行为，如在本应该停止的路...
【技术保护点】
1.一种深度神经网络图像对抗样本检测方法，其特征在于，包括以下步骤：/n1)输入图像f，计算所述图像f的一维熵；/n2)根据所述图像f的一维熵值，采用标量量化和平滑滤波的方法，对所述图像f进行降噪处理，生成降噪图像f′；/n3)对所述图像f和所述降噪图像f′进行分类，若所述图像f和所述降噪图像f′属于同一类别，表明输入的所述图像f为正常样本，否则，所述图像f为对抗样本。/n
【技术特征摘要】
1.一种深度神经网络图像对抗样本检测方法，其特征在于，包括以下步骤：
1)输入图像f，计算所述图像f的一维熵；
2)根据所述图像f的一维熵值，采用标量量化和平滑滤波的方法，对所述图像f进行降噪处理，生成降噪图像f′；
3)对所述图像f和所述降噪图像f′进行分类，若所述图像f和所述降噪图像f′属于同一类别，表明输入的所述图像f为正常样本，否则，所述图像f为对抗样本。
2.如权利要求1所述的深度神经网络图像对抗样本检测方法，其特征在于，所述步骤1)中所述图像f的一维熵值的计算公式如下：
其中，所述图像f由M×N个像素点组成，每个所述像素点的像素值均在[0,a]的范围内，fi表示像素值为i的像素点的个数，pi表示像素点的像素值为i的概率，H表示一维熵值。
3.如权利要求1或2所述的深度神经网络图像对抗样本检测方法，其特征在于，所述步骤2)中将所述图像f的一维熵值分成三个阶段，当所述图像f的一维熵值处于第一阶段和第二阶段时，对所述图像f进行标量量化生成降噪图像f′；当所述图像f处于第三阶段时，对所述图像f进行标量量化后，再进行平滑滤波生成降噪图像f′。
4.如权利要求3所述的深度神经网络图像对抗样本检测方法，其特征在于，当所述图像f的一维熵值大于等于零且小于a2时，所述图像f的一维熵值处于所述第一阶段，设0<a1<a2,a/a1＝b1,将所述图像中的像素数a等分为a1个段，其中第一段即像素值小于等于b1的像素点，其像素值都为0；第二段即像素值大于b1且小于等于2b1的像素点，其像素值都为b1，以此类推，第a1段即像素值大于(a1-1)b1且小于等于a的像素点，其像素值都为(a1-1)b1，根据以上规则生成第一阶段降噪图像f1′。
5.如权利要求3所述的深度神经网络图像对抗样本检测方法，其特征在于，当所述图像f的一维熵值大于等于a2且小于a3时，所述图像f的一维熵值处于所述第二阶段，设a/a2＝b2,将所述图像中的像素数a等分为a2个段，其中第一段即像素值...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。