基于后验概率的对抗样本检测方法、系统及存储介质技术方案

本发明专利技术涉及基于后验概率的对抗样本检测方法、系统及存储介质，包括以下步骤：S1、构建用于图像分类的分类模型；S2、构建用于对抗样本检测的判别模型；S3、将需要进行判别的图像样本放入分类模型中，获取图像样本对应的概率分布；S4、将图像样本对应的概率分布作为判别模型的输入放入判别模型中进行处理，获取对抗样本检测结果。本发明专利技术通过构建分类模型和判别模型，利用二分类模型对对抗样本与正常图像经过分类模型后的输出进行学习，挖掘二者之间差异来进行对抗样本检测，从而实现了有效的对抗样本检测方法。样本检测方法。样本检测方法。

【技术实现步骤摘要】
基于后验概率的对抗样本检测方法、系统及存储介质


[0001]本专利技术涉及深度学习领域中的图像识别
，尤其涉及基于后验概率的对抗样本检测方法、系统及存储介质。

技术介绍

[0002]以卷积神经网络为代表的深度学习在模式识别任务，如图像分类，人脸识别，目标检测等任务中已经有了广泛的运用，而人们对人工智能安全问题的关心程度也日益增强。其中，对抗样本的安全问题是目前人工智能领域最热门，最受关注的领域之一。对抗样本是指一些经过精心制作，在正常图像上添加人眼难以察觉的扰动后能让识别模型产生误判的样本图像。对抗样本使得深度学习在实际社会中的应用如自动驾驶，人脸支付等面临着重大的挑战。
[0003]现有的一些防御对抗样本的方法主要分为三类：输入重构、修改网络结构、利用辅助网络，如对抗训练，图像降噪等。输入重构旨在去除人为恶意添加的扰动，使得模型能够正常地对图像进行识别；修改网络结构旨在增强模型的鲁棒性，使其具有更加强大的抗干扰，抗噪声能力；利用辅助网络则是为了通过辅助网络来增强分类模型识别的有效性或检测恶意样本。
[0004]公开号为112884069的专利技术专利公开了一种对抗网络样本检测的方法。该方法主要包括构建用于检测对抗样本的检测模型，检测模型包括特征提取单元、特征重构单元、图分类器、差异计算单元以及判别单元等。具体而言，该方法通过提取待检图像特征，并利用生成对抗网络来对待检图像特征进行重构，将原来的图像特征与重构的特征作为输入放入图分类器中，得出二者对应的输出，即概率分布，然后计算他们之间的差异并判断该差异是否超过预先设定好的阈值，如果超过，则该图像为对抗样本，如果不超过则该图像为正常图像。阈值设定为该图分类器的训练图像集中各个图像提取的特征和利用生成对抗网络重构后的特征经过图分类器后的差异的均值。
[0005]公开号为112766324的专利技术专利公开了一种图像对抗样本检测方法，系统，存储介质，终端及应用。该方法通过对待检图像进行降噪处理得到降噪处理后的图像，将原始图像和降噪后的图像作为输入放入图分类器中，提取二者对应的经过softmax归一化后的logits值，并计算二者之前的差异，判断该差异是否超过预先设定好的阈值，如果超过则为对抗样本，没有超过则反之。该方法的阈值通过图分类器的训练图像集中的每个图像与其降噪后的图像经过图分类器得到的logits值的均值。
[0006]这两种专利技术专利公开的方法都是通过对待检图像进行处理后，根据其处理前后分类模型输出的差异与正常图像处理前后差异的比较结果来判断待检图像是否为对抗样本。但是第一种方法中，需要对所有需要进行检测的图像进行特征重构，生成对抗网络的设计与生成模型的训练需要耗费一定的资源，且不同特征重构的方式对检测的性能可能影响不一，会影响最后的检测效果；第二种方法需要对所有图像进行降噪处理，降噪的方式可能也会影响到检测的效果，并且二者判断阈值的设置依赖于正常的图像集，具有一定的局限性。

技术实现思路

[0007]为解决现有技术所存在的技术问题，本专利技术提供基于后验概率的对抗样本检测方法，通过构建分类模型和判别模型，利用二分类模型对对抗样本与正常图像经过分类模型后的输出进行学习，挖掘二者之间差异来进行对抗样本检测，从而实现了有效的对抗样本检测方法。
[0008]本专利技术方法采用以下技术方案来实现：基于后验概率的对抗样本检测方法，包括以下步骤：
[0009]S1、构建用于图像分类的分类模型，对输入的图像样本进行特征提取与处理，获取输入图像样本对应的概率分布；
[0010]S2、构建用于对抗样本检测的判别模型，对分类模型获取的图像样本对应的概率分布进行特征提取与处理，进行对抗样本判别；
[0011]S3、将需要进行判别的图像样本放入分类模型中，获取图像样本对应的概率分布；
[0012]S4、将图像样本对应的概率分布作为判别模型的输入放入判别模型中进行处理，获取对抗样本检测结果。
[0013]本专利技术系统采用以下技术方案来实现：基于后验概率的对抗样本检测系统，包括：
[0014]分类模型构建模块：用于图像分类，对输入的图像样本进行特征提取与处理，获取输入图像样本对应的概率分布；
[0015]判别模型构建模块：用于对抗样本检测，对分类模型获取的图像样本对应的概率分布进行特征提取与处理，进行对抗样本判别；
[0016]概率分布获取模块：将需要进行判别的图像样本放入分类模型中，获取图像样本对应的概率分布；
[0017]对抗样本检测结果获取模块：将图像样本对应的概率分布作为判别模型的输入放入判别模型中进行处理，获取对抗样本检测结果。
[0018]本专利技术还提出存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时，实现本专利技术对抗样本检测方法的步骤。
[0019]本专利技术与现有技术相比，具有如下优点和有益效果：
[0020]1、本专利技术通过构建分类模型和判别模型，利用二分类模型对对抗样本与正常图像经过分类模型后的输出进行学习，挖掘二者之间差异来进行对抗样本检测，从而实现了有效的对抗样本检测方法。
[0021]2、本专利技术方法不需要修改原来分类模型的结构，也不需要精心生成大量的对抗样本用于训练判别模型，模型的入侵性小，泛化能力强，计算成本以及时间复杂度也比较低，同时能达到良好的对抗样本检测效果。
附图说明
[0022]图1是本专利技术的方法流程图；
[0023]图2是本专利技术构建与训练分类模型的工作流程图；
[0024]图3是本专利技术构建与训练判别模型的工作流程图。
具体实施方式
[0025]下面结合实施例及附图对本专利技术作进一步详细的描述，但本专利技术的实施方式不限于此。
[0026]实施例
[0027]如图1所示，本实施例基于后验概率的对抗样本检测方法，包括以下步骤：
[0028]S1、构建用于图像分类的分类模型，对输入的图像样本进行特征提取与处理，获取输入图像样本对应的概率分布；
[0029]S2、构建用于对抗样本检测的判别模型，对分类模型获取的图像样本对应的概率分布进行特征提取与处理，进行对抗样本判别；
[0030]S3、将需要进行判别的图像样本放入分类模型中，获取图像样本对应的概率分布；
[0031]S4、将图像样本对应的概率分布作为判别模型的输入放入判别模型中进行处理，获取对抗样本检测结果。
[0032]本实施例中，步骤S1中在输入图像样本后，将图像样本划分成训练样本集和测试样本集，利用训练样本集中的图像样本优化分类模型参数，利用测试样本集中的图像样本测试分类模型效果以及生成对应的对抗样本。由于在计算机视觉领域有比较经典的图像数据集，可直接采用一些图像数据集，如MNIST，CIFAR10等数据集。
[0033]本实施例中，步骤S1中构建的分类模型包含特征提取单元和特征处理单元，对输入的图像样本进行特征提取以及处理，并利用这些特征进行图像样本分类；分类模型的结构采用卷积神经网本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于后验概率的对抗样本检测方法，其特征在于，包括以下步骤：S1、构建用于图像分类的分类模型，对输入的图像样本进行特征提取与处理，获取输入图像样本对应的概率分布；S2、构建用于对抗样本检测的判别模型，对分类模型获取的图像样本对应的概率分布进行特征提取与处理，进行对抗样本判别；S3、将需要进行判别的图像样本放入分类模型中，获取图像样本对应的概率分布；S4、将图像样本对应的概率分布作为判别模型的输入放入判别模型中进行处理，获取对抗样本检测结果。2.根据权利要求1所述的基于后验概率的对抗样本检测方法，其特征在于，步骤S1中在输入图像样本后，将图像样本划分成训练样本集和测试样本集，利用训练样本集中的图像样本优化分类模型参数，利用测试样本集中的图像样本测试分类模型效果以及生成对应的对抗样本。3.根据权利要求1所述的基于后验概率的对抗样本检测方法，其特征在于，步骤S1中构建的分类模型包含特征提取单元和特征处理单元，对输入的图像样本进行特征提取以及处理，并利用这些特征进行图像样本分类，采用卷积神经网络结构训练分类模型。4.根据权利要求3所述的基于后验概率的对抗样本检测方法，其特征在于，采用卷积神经网络结构训练分类模型的具体过程如下：利用卷积神经网络中含有的卷积神经元对输入的图像样本进行特征提取，通过改变卷积核来确定初步提取的特征有用的卷积核，并得到输出矩阵，再经过池化神经元，减少训练参数和特征向量的维度、保留有用的特征，完成图像样本特征的提取，最后再经过全连接层完成图像的分类；利用图像样本集划分后得到的训练样本集对分类模型进行训练；利用训练样本集中的图像样本优化分类模型参数时，采用交叉熵损失函数作为训练优化器来进行参数优化，训练完成后利用测试样本集对分类模型的分类效果进行验证。5.根据权利要求1所述的基于后验概率的对抗样本检测方法，其特征在于，步骤S2中构建判别模型的具体过程如下：S21、构建数据样本，生成针对分类模型的对抗样本集；S22、将对抗样本集和正常图像集作为输入放入分类模型中，获取每个图像对应的后验概率；S23、对每个图像对应的后验概率进行处理，...

【专利技术属性】
技术研发人员：李进，赖杰伟，霍艳童，陈虹桥，王显珉，
申请(专利权)人：广州大学，
类型：发明
国别省市：