【技术实现步骤摘要】
检测对抗样本的方法、装置、设备以及存储介质
[0001]本公开涉及图像处理
，尤其涉及人工智能领域。具体而言，涉及一种检测对抗样本的方法、装置、设备以及存储介质。
技术介绍
[0002]相关技术中，基于特征压缩检测恶意对抗样本的方法只采用了某一种特定的压缩方法处理原图像，再比对输出结果，但这种方法往往只对某一种或几种攻击算法有效，泛化性较差，在实际应用中存在识别准确率较低的问题。
技术实现思路
[0003]本公开提供了一种用于检测对抗样本的方法、装置、设备以及存储介质。
[0004]根据本公开的一方面，提供了一种检测对抗样本的方法，包括：采用多种预处理方式分别对输入的原始图像进行处理，得到第一图像集合；将第一图像集合中的图像与原始图像分别输入图像分类模型进行分析，得到与第一图像集合中的图像和原始图像分别对应的第一分类结果集合和第二分类结果；依据第一分类结果集合和第二分类结果确定目标分类结果集合，并计算目标分类结果集合中各个分类结果的离散程度指标；在离散程度指标大于预设阈值的情况下，确定原始图像为...
【技术保护点】
【技术特征摘要】
1.一种检测对抗样本的方法，包括：采用多种预处理方式分别对输入的原始图像进行处理，得到第一图像集合；将所述第一图像集合中的图像与所述原始图像分别输入图像分类模型进行分析，得到与所述第一图像集合中的图像和所述原始图像分别对应的第一分类结果集合和第二分类结果；依据所述第一分类结果集合和所述第二分类结果确定目标分类结果集合，并计算所述目标分类结果集合中各个分类结果的离散程度指标；在所述离散程度指标大于预设阈值的情况下，确定所述原始图像为对抗样本。2.根据权利要求1所述的方法，其中，采用多种预处理方式分别对输入的原始图像进行处理，包括：对所述多种预处理方式进行分组，得到多组预处理方式；采用每组预处理方式中的处理方式对所述原始图像进行串行处理，得到第一图像；采用多组预处理方式对所述第一图像进行串行或并行处理，得到所述第一图像集合。3.根据权利要求1所述的方法，其中，所述第一分类结果集合中的分类结果和所述第二分类结果为一维向量，所述一维向量中的每个数值表示图像中的物体属于不同的类别数量的概率。4.根据权利要求3所述的方法，其中，所述一维向量的长度由所述图像分类模型输出的类别数量确定。5.根据权利要求1所述的方法，其中，计算所述目标分类结果集合中各个分类结果的离散程度指标，包括：确定所述图像分类模型输出的列数和所述目标分类结果集合中包含的向量的个数N；从所述目标分类结果集合包含的所有向量中选择对应的目标列，计算所述目标列中的数值的和的平均值；将所述目标列中的数值分别与所述平均值做差值计算，得到多个第一数值；依据所述多个第一数值和所述向量的个数N，得到所述目标列对应的离散程度指标。6.根据权利要求5所述的方法，其中，依据所述多个第一数值和所述向量的个数N，得到所述目标列对应的离散程度指标，包括：将所述多个第一数值中的每个数值进行平方计算后再求和，得到第二数值；依据所述第二数值与N
‑
1的比值，得到所述目标列对应的离散程度指标。7.根据权利要求5所述的方法，其中，得到所述目标列对应的离散程度指标之后，所述方法还包括：计算所述图像分类模型输出的所有列数对应的离散程度指标。8.根据权利要求1所述的方法，其中，所述多种预处理方式包括第一预处理方式，所述第一预处理方式包括：对所述原始图像中的每个像素点的值，由该像素点和该像素点邻域内的其他像素的值通过加权平均处理后得到。9.根据权利要求1所述的方法，其中，所述多种预处理方式包括第二预处理方式，所述第二预处理方式包括：将所述原始图像中的每个像素点的灰度值设置为该像素点邻域窗口内的所有像素点的灰度值的中值。10....
【专利技术属性】
技术研发人员：干逸显，王洋，张华正，黄英仁，吕中厚，田伟娟，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。