基于经验知识的对抗样本生成方法与装置制造方法及图纸

本发明专利技术公开了一种基于经验知识的对抗样本生成方法，主要是利用经验知识提取表现优异的特征，作为生成对抗样本的辅助信息，进而提升对抗样本的通用性和迁移性，可以攻击相同任务的不同模型。本发明专利技术以目标图像识别模型M<subgt;1</subgt;,M<subgt;2</subgt;为实施案例，第一步通过训练集构建目标图像识别模型M<subgt;1</subgt;,M<subgt;2</subgt;，并满足准确度需求；第二步根据测试集样本x，使用经验知识设计的特征提取算子，提取图像的特征feature；第三步对模型M<subgt;1</subgt;利用基于梯度的对抗样本生成算法计算扰动值r；第四步结合提取的图像特征feature和计算的扰动值r，获取关键的局部扰动值r<subgt;x</subgt;，根据生成对抗的判断条件生成对抗样本x<subgt;adv</subgt;；第五步使用生成的对抗样本攻击M<subgt;2</subgt;。本发明专利技术还提供了相应的基于经验知识的对抗样本生成装置。

【技术实现步骤摘要】

本专利技术属于人工智能，更具体地，涉及一种基于经验知识的对抗样本生成方法与装置。

技术介绍

1、以深度学习为代表的人工智能技术在计算机视觉、语音识别、自然语音处理等方面已经取得了巨大发展，在自动驾驶、金融领域、智能家居、国防军事等民用领域和军事领域得到广泛研究和应用。但是，人工智能技术由于其模型、算法、数据等方面在复杂环境下的脆弱性问题，对社会稳定、国防、金融、政治等带来了一定的影响。其中对抗样本是目前攻击人工智能模型的关键技术，通过在原始样本上添加一定人肉眼不能察觉的干扰信息，使得人工智能模型输出错误的结果。如下公式定义：

2、f(x*)≠f(x)||x*-x||p≤ε

3、其中，x*表示有干扰信息的样本，x表示原始样本，||x*-x||p≤ε表示添加一定范围的干扰信息。

4、对抗样本是研究人工智能技术鲁棒性的关键数据，目前研究较多，有基于梯度的fgsm、jsma、pgd等算法；基于优化的cw、zoo等算法；基于对抗生成网络的advgan网络等算法。由于各种对抗样本生成方法在攻击时是针对该模型的基本信息计算出来的对抗样本文档来自技高网...

【技术保护点】

1.基于经验知识的对抗样本生成方法，其特征在于，包括如下步骤：

2.如权利要求1所述的基于经验知识的对抗样本生成方法，其特征在于，所述步骤(4)具体包括如下子步骤：

3.如权利要求1或2所述的基于经验知识的对抗样本生成方法，其特征在于，所述步骤(1)构建目标图像识别模型具体包括：

4.如权利要求1或2所述的基于经验知识的对抗样本生成方法，其特征在于，所述步骤(2)中采用Laplacian算子提取图像特征feature。

5.如权利要求4所述的基于经验知识的对抗样本生成方法，其特征在于，所述步骤(2)提取图像特征feature具体包括：...

【技术特征摘要】

1.基于经验知识的对抗样本生成方法，其特征在于，包括如下步骤：

2.如权利要求1所述的基于经验知识的对抗样本生成方法，其特征在于，所述步骤(4)具体包括如下子步骤：

3.如权利要求1或2所述的基于经验知识的对抗样本生成方法，其特征在于，所述步骤(1)构建目标图像识别模型具体包括：

4.如权利要求1或2所述的基于经验知识的对抗样本生成方法，其特征在于，所述步骤(2)中采用laplacian算子提取图像特征feature。

5.如权利要求4所述的基于经验知识的对抗样本生成方法，其特征在于，所述步骤(2)提取图像特征feature具体包括：

6.如权利要求1或2所述的基于经验知识的对抗样本生成方法，其特征在于，所述步骤(3)计算全局区域的扰动具体包括：

7.如权利要求2所述...

【专利技术属性】
技术研发人员：李宁安，吴亚楠，张剑，周倜，
申请(专利权)人：中国船舶集团有限公司第七〇九研究所，
类型：发明
国别省市：