基于稀疏矩阵和惩罚项的对抗样本生成方法及系统技术方案

本发明专利技术涉及图像处理技术领域，本发明专利技术公开了基于稀疏矩阵和惩罚项的对抗样本生成方法及系统，包括获取图像，将所述图像输入模型，得到对每个类别的分类得分，并利用正确类别的得分，计算稀疏矩阵；利用所述稀疏矩阵设置扰动大小，并利用模型损失函数的梯度信息设置扰动，采用基于梯度的对抗样本生成算法，得到对抗样本。可以减少扰动的L0范数。范数。范数。

【技术实现步骤摘要】
基于稀疏矩阵和惩罚项的对抗样本生成方法及系统


[0001]本专利技术涉及图像处理
，具体的说，是涉及基于稀疏矩阵和惩罚项的对抗样本生成方法及系统。

技术介绍

[0002]本部分的陈述仅仅是提供了与本专利技术相关的
技术介绍
信息，不必然构成在先技术。
[0003]随着计算机性能的不断提高，深度学习在各个领域都有着广泛的应用，但有研究者发现深度学习模型存在着容易受到对抗样本攻击的安全隐患。在计算机视觉领域，对抗样本是攻击者通过在原始数据上增加人类通过感官几乎无法辨别的细微扰动，使得生成的对抗样本让原有模型做出错误的改变。
[0004]虽然对抗样本对深度神经网络产生了威胁，但合理的利用对抗样本攻击，不仅可以发现模型的漏洞，同时还能加固模型提高模型的鲁棒性。现有的对抗攻击分为白盒攻击和黑盒攻击。白盒攻击对于攻击者而言知道被攻击模型的信息，利用这些信息设置特定的扰动对模型进行攻击。而黑盒攻击则是不知道被攻击模型的具体信息，只知道模型的输入输出。
[0005]由于对抗样本本身有一定的迁移性，即使用一个模型生成的对抗样本对其他模型本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于稀疏矩阵和惩罚项的对抗样本生成方法，其特征在于，包括：获取图像，将所述图像输入模型，得到对每个类别的分类得分，并利用正确类别的得分，计算稀疏矩阵；利用所述稀疏矩阵设置扰动大小，并利用模型损失函数的梯度信息设置扰动，采用基于梯度的对抗样本生成算法，得到对抗样本。2.如权利要求1所述的基于稀疏矩阵和惩罚项的对抗样本生成方法，其特征在于，在计算损失函数时，通过添加惩罚项进行控制。3.如权利要求1所述的基于稀疏矩阵和惩罚项的对抗样本生成方法，其特征在于，将每个像素点对所述得分的贡献作为图像梯度，并将贡献值大于阈值的像素点保留下来，将贡献值小于阈值的像素点舍弃掉。4.如权利要求3所述的基于稀疏矩阵和惩罚项的对抗样本生成方法，其特征在于，随机对所述图像梯度进行稀疏处理，得到稀疏矩阵。5.如权利要求1所述的基于稀疏矩阵和惩罚项的对抗样本生成方法，其特征在于，所述扰动大小为：总扰动大小与迭代次数的比值，与所述稀疏矩阵的乘积。6.如权利要求1所述的基于稀疏矩阵和惩罚项的对抗样本生成方法，其特征在于，所述基于梯度的对抗样本生成算法为：...

【专利技术属性】
技术研发人员：金星，汪付强，吴晓明，张旭，张鹏，徐歌星，马晓凤，张建强，郝秋赟，
申请(专利权)人：齐鲁工业大学山东省科学院，
类型：发明
国别省市：