【技术实现步骤摘要】
本专利技术涉及人工智能安全，具体涉及基于融合攻击和边界增强的图像安全保护方法。
技术介绍
1、计算机性能的提高和深度学习的出现，使得人工智能技术得到普遍应用，深度学习模型的安全性问题受到了广泛的关注。对抗样本的存在是深度学习应用场景的主要威胁之一，限制了诸如人脸识别、自动驾驶等隐私安全性要求较高的应用场景。深度学习模型除了需要神经网络有良好的性能外，还需要它有足够的鲁棒性。令人担心的是，深度神经网络是否可以稳定可靠有效地应用在现实世界中，如果对深度神经网络的认知仅仅停留在一个黑盒模型，对于输入有良好的输出效果，那很难放心地将其应用在现实中。目前的黑盒攻击方法可以分为基于查询的攻击和基于迁移的攻击，基于查询的攻击因其更胜一筹的攻击性能受到研究者们的广泛关注。大多数现有的基于查询的黑盒攻击使用代理模型作为迁移先验来提高查询效率。然而，由于以下三个原因，这些方法仍然面临查询时间长和复杂度高的问题。首先，通常使用基于迁移的策略来寻找起始点，这不利于快速优化。其次，迁移先验的使用方式大多比较复杂，严重限制了查询效率。第三，其性能通常取决于代理模型...
【技术保护点】
1.基于融合攻击和边界增强的图像安全保护方法，其特征是,包括以下步骤：
2.如权利要求1所述的基于融合攻击和边界增强的图像安全保护方法，其特征是：所述步骤S2的算法框架又分为预热攻击阶段和交替攻击阶段。
3.如权利要求2所述的基于融合攻击和边界增强的图像安全保护方法，其特征是：所述预热攻击阶段中，原始样本x首先查询目标模型，得到每个类别的置信度分数，然后在置信度分数的指导下，使用迁移先验得到xcurr，xcurr是本专利方法找到的更好的优化起始点；所述交替攻击阶段中，引入一组随机因子r*＝[r1,r2,...,rk]，每次迭代时随机从中选择一组...
【技术特征摘要】
1.基于融合攻击和边界增强的图像安全保护方法，其特征是,包括以下步骤：
2.如权利要求1所述的基于融合攻击和边界增强的图像安全保护方法，其特征是：所述步骤s2的算法框架又分为预热攻击阶段和交替攻击阶段。
3.如权利要求2所述的基于融合攻击和边界增强的图像安全保护方法，其特征是：所述预热攻击阶段中，原始样本x首先查询目标模型，得到每个类别的置信度分数，然后在置信度分数的指导下，使用迁移先验得到xcurr，xcurr是本专利方法找到的更好的优化起始点；所述交替攻击阶段中，引入一组随机因子r*＝[r1,r2,...,rk]，每次迭代时随机从中选择一组来调整代理模型的决策边界，其中k表示代理模型中的跳跃连接数，攻击过程中，当前样本xcurr首先执行nq次simba-ods攻击，如果xtemp还不是对抗性样本，则依次执行nt次dst攻击。
4.如权利要求1所述的基于融合攻击和边界增强的图像安全...
【专利技术属性】
技术研发人员：皮家甜，温涪森，彭一诺，曾钧一，
申请(专利权)人：重庆师范大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。