一种多样性驱动的深度学习模型对抗样本生成及系统技术方案

本申请公开了一种多样性驱动的深度学习模型对抗样本生成及系统，包括：执行如下系统初始化：初始化测试种子集合、扰动的数量、扰动方向的数量、存储新生成对抗样本的栈、贪心搜索的步长、初始对抗样本集合、空集合；对于range(N_ODS)中的每个数i，根据存储新生成对抗样本的栈中的每个元素进行弹出，初始化梯度，并设置起始点；根据当前的扰动方向数量，对栈中的每个元素、计算梯度，以生成测试样例，加入空集合；合并集合，以获得对抗样本集合。本申请的方法能够在不影响攻击成功率的情况下产生更多样化的测试用例。

【技术实现步骤摘要】

本申请涉及人工智能，尤其涉及一种多样性驱动的深度学习模型对抗样本生成及系统。

技术介绍

1、前，深度学习取得了显著的进展，在各个领域展现出了出色的性能。然而，尽管在性能方面取得了显著成就，但深度学习模型在决策制定中的透明度不足，这使得我们在理解这些模型的可靠性方面面临挑战，特别是在现实世界的场景下。此外，随着深度学习系统在安全关键领域得到广泛应用，人们对深度学习模型的脆弱性产生了担忧。因此，软件工程和人工智能领域都强调了严格测试流程的重要性，以确保深度学习模型的稳健性和安全性。然而，与传统软件测试不同的是，深度学习模型的决策逻辑遵循数据驱动编程范式，其逻辑是由训练数据而非显式代码确定的。这从根本上增加了对深度学习模型进行充分测试的挑战。先前的研究表明深度学习模型容易受到对抗攻击，攻击者会制作对抗样本，从而操纵模型分类并导致错误结果。

2、大量研究利用对抗样本来测试深度学习模型的鲁棒性，但却没有理解对抗攻击算法的固有特性。要认识到，攻击者寻求对对抗攻击进行最佳扰动，以导致从正确类别到目标类别的错误分类。

3、最近的研究进展还进行了基于本文档来自技高网...

【技术保护点】

1.一种多样性驱动的深度学习模型对抗样本生成方法，其特征在于，包括：

2.如权利要求1所述的多样性驱动的深度学习模型对抗样本生成方法，其特征在于，初始化梯度g是将梯度g初始化为0。

3.如权利要求1所述的多样性驱动的深度学习模型对抗样本生成方法，其特征在于，根据当前的扰动方向数量NDir，对栈S中的每个元素x_adv、计算梯度满足gradient＝compute_gradient(x_adv)，gradient是指对于元素x_adv的梯度，compute_gradient是指计算x_adv梯度的函数。

4.如权利要求3所述的多样性驱动的深度学习模型对抗...

【技术特征摘要】

1.一种多样性驱动的深度学习模型对抗样本生成方法，其特征在于，包括：

2.如权利要求1所述的多样性驱动的深度学习模型对抗样本生成方法，其特征在于，初始化梯度g是将梯度g初始化为0。

3.如权利要求1所述的多样性驱动的深度学习模型对抗样本生成方法，其特征在于，根据当前的扰动方向数量ndir，对栈s中的每个元素x_adv、计算梯度满足gradient＝compute_gradient(x_adv)，gradient是指对于元素x_adv的梯度，compute_gradient是指计算x_adv梯度的函数。

4.如权利要求3所述的多样性驱动的深度学习模型对抗样本生成方法，其特征...

【专利技术属性】
技术研发人员：李虎，孔伟，况晓辉，张明，吴振东，赵刚，
申请(专利权)人：中国人民解放军军事科学院系统工程研究院，
类型：发明
国别省市：