一种基于图结构变异测试的深度模型加固方法技术

本发明专利技术提供了一种基于图结构变异测试的深度模型加固方法，本发明专利技术通过将不同的变异算子注入到深度学习系统当中构建不同的变异测试模型，分析变异的检测程度来评估测试模型的质量并对模型进行择优排序，从而在将模型映射成图结构之后根据排序的结果找到具指导意义的图网络指标以生成新的鲁棒图结构并重构回模型，提高模型的鲁棒性。提高模型的鲁棒性。提高模型的鲁棒性。

【技术实现步骤摘要】
一种基于图结构变异测试的深度模型加固方法


[0001]本专利技术涉及分布式机器学习、人工智能安全领域，具体涉及一种基于图结构变异测试的深度模型加固方法。

技术介绍

[0002]在过去的几十年里，深度学习在许多领域取得了巨大的成功，包括自动驾驶、人工智能、视频监控等。然而，随着最近一系列与深度学习相关的灾难性事故的频出，使得深度学习系统的鲁棒性和安全性成为一个大问题。尤其是最近Christian等人提出在原样本图像上添加一种人类察觉不到的误导性扰动的对抗性测试生成技术进一步加剧了这个问题。这种新生成的测试样本被称作对抗样本，它对深度学习系统，如人脸识别系统、自动校验系统和自动驾驶系统等构成潜在的安全威胁。
[0003]在过去的几年里，大量的防御方法被提出来提高模型对对抗样本的鲁棒性，以避免现实应用中潜在的危险。这些方法大致可以分为对抗性训练、输入转换、模型架构转换和对抗性样本检测。然而，上述这些方法大部分是针对输入图像的像素空间，很少有通过研究模型层间结构来分析对抗性扰动的影响。这是因为虽然人们普遍认为神经网络的性能取决于其网络参数和训练本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于图结构变异测试的深度模型加固方法，其特征在于，包括：1)获取训练数据和测试数据；2)构建原始目标模型，并基于获取的训练数据训练原始目标模型；3)构建所述原始目标模型的变异测试模型，所述变异测试模型包括使用源级变异算子和/或模型级变异算子生成的变异测试模型；其中，对于使用模型级变异算子生成的已经训练好的变异测试模型直接保存，对于使用源级变异算子生成的未训练过的变异测试模型基于获取的训练数据并使用与原始目标模型训练相同的参数进行训练并保存；4)基于测试数据对变异测试模型进行变异检测，计算每种变异测试模型的变异得分：其中，M
′
是每种变异测试模型的集合，m
′
是每种变异测试模型中变异测试模型的索引，K是测试数据的标签的种类数目，KilledClasses(T
′
,m
′
)表示测试数据T
′
中杀死变异测试模型m
′
的测试数据种类的集合；对于测试数据T
′
当中的一个测试数据点t，如果满足以下条件，则说t杀死变异测试模型m
′
中的x
i
类数据；Ⅰ、t被原始目标模型m正确地分类为x
i
；Ⅱ、t被变异测试模型m
′
没有正确地分类为x
i
；其中，测试数据基于标签的种类数目划分为K类，x
i
表示标签的种类为i的测试数据集合；5)构建原始目标模型及每种变异测试模型的图结构，其中，图结构中的节点对应每层神经网络的神经元，图结构中的边对应每前后两层之间有传播关系的两个神经元节点之间的连线，边的权重为由前一层向后一层传播时对应节点的特征向量矩阵的分量；6)计算原始目标模型及每种变异测试模型的图结构对应的图结构指标，根据每种变异测试模型的图结构指标随变异得分的变化趋势，重新调整原始目标模型的图结构的生长方向，最后将调整后的图结构重构回模型，实现模型加固。2.根据权利要求1所述的方法，其特征在于，所述源级变异算子包括：LR算子：从未训练过的原始目标模型结构当中随机删除一层；LA算子：从未训练过的原始目标模型结构当中随机增加一层；和/或AFR算子：从未训练过的原始目标模型结构当中随机删除一层的所有激活功能。3.根据权利要求...

【专利技术属性】
技术研发人员：陈晋音，陈宇冲，贾澄钰，倪洪杰，赵云波，
申请(专利权)人：浙江工业大学，
类型：发明
国别省市：