一种基于解释分析的深度神经网络模型迁移测试方法技术

本发明专利技术公开了一种基于解释分析的深度神经网络模型迁移测试方法，涉及模型迁移测试技术领域，包括以下步骤：S1：模型行为解释分析；S2：通用测试数据生成；S3：迭代扰动。本发明专利技术有效分析测试数据中不同元素的贡献程度，并根据贡献程度选择不同元素进行变异，使生成的测试数据能有效测试与被分析模型功能类似结构未知的其他DNN模型；首次使用解释方法对DNN模型行为进行解释，并以此制导DNN模型的测试数据生成；使用迭代优化的方式迭代分析测试数据中的重要元素并对其添加扰动以生成更有效的测试数据；将通过分析白盒源模型的内部信息来生成可迁移测试目标黑盒模型的测试数据。

【技术实现步骤摘要】

本专利技术涉及模型迁移测试，尤其涉及一种基于解释分析的深度神经网络模型迁移测试方法。

技术介绍

1、深度神经网络(deep neural network，dnn)建立了类似人脑神经元的分层结构，通过引入非线性的激活函数，将输入的数据逐层转换为高维特征，从而建立底层输入到高层语义的复杂映射关系，可基于大规模数据集学习特定能力，在某些特定任务上的准确性甚至已经超过了人类。以dnn为代表的深度学习技术在图像识别、语音识别和自然语言处理等应用领域取得了巨大进展，被广泛地应用到一些重要的现实任务中，例如自动驾驶、人脸识别、恶意软件检测和智慧医疗分析等。但是，dnn与传统软件不同，其结构复杂且内部复杂的逻辑关系基于训练过程所获取，缺乏传统软件的可解释性，即使进行了大量的测试，也难以获取测试数据对整个dnn模型的覆盖情况，无法对测试的有效性和充分性进行评估。在实际应用中，未经过充分测试的dnn模型可能会被未知输入触发在测试阶段未发现的错误，甚至引发严重事故。例如，近年来dnn故障所导致的交通事故频发，谷歌、特斯拉等公司的自动驾驶汽车都发生过严重的安全事故。

本文档来自技高网...

【技术保护点】

1.一种基于解释分析的深度神经网络模型迁移测试方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的一种基于解释分析的深度神经网络模型迁移测试方法，其特征在于，

3.根据权利要求1所述的一种基于解释分析的深度神经网络模型迁移测试方法，其特征在于，

4.根据权利要求3所述的一种基于解释分析的深度神经网络模型迁移测试方法，其特征在于，

5.根据权利要求1所述的一种基于解释分析的深度神经网络模型迁移测试方法，其特征在于，

【技术特征摘要】

1.一种基于解释分析的深度神经网络模型迁移测试方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的一种基于解释分析的深度神经网络模型迁移测试方法，其特征在于，

3.根据权利要求1所述的一种基于解释分析的深度...

【专利技术属性】
技术研发人员：崔展齐，谢瑞麟，郑丽伟，李莉，
申请(专利权)人：北京信息科技大学，
类型：发明
国别省市：