基于对抗攻击的深度网络模型压缩方法技术

本发明专利技术公开了一种基于对抗攻击的深度网络模型压缩方法，其特征在于：包括以下步骤：步骤一、构建待分析的深度网络模型；步骤二、生成对抗数据样本；步骤三、构成m对数据样本对；步骤四、分别生成原始特征图和对抗特征图；步骤五、构成特征图样本对；步骤六、利用特征图样本对计算各卷积核的样本激活值；步骤七、利用各卷积核的样本激活值计算各卷积核的平均激活值；步骤八、计算各卷积核的贡献度；步骤九、根据贡献度对各层卷积核进行删减。本发明专利技术基于对抗样本生成贡献度，借用贡献度鉴别不重要的卷积核并删掉，解决深度网络模型节点规模庞大的问题，不影响深度网络模型精度的同时提高了运行速度，引入贡献度，增强了深度网络模型的可解释性。解释性。解释性。

【技术实现步骤摘要】
基于对抗攻击的深度网络模型压缩方法


[0001]本专利技术属于图像处理
，具体涉及基于对抗攻击的深度网络模型压缩方法。

技术介绍

[0002]随着近些年计算机性能的快速发展，深度学习卷积网络模型成为了引领本轮的人工智能热潮的关键技术，得到了社会的广泛讨论与关注。深度学习深度网络模型已经在计算机视觉、自然语言处理、音频识别等领域取得了重大成果，如应用于视觉领域的深度网络模型和应用于语音识别或自然语言处理领域的递归神经网络等，这些神经网络技术均极大地提高了相应领域的处理精度。
[0003]目前深度网络模型对于使用者来说如同一个黑盒，使用者缺乏对深度学习卷积网络模型运行的网络结构和中间过程的清晰认识，使用者对深度学习卷积网络模型输入一个参数，然后通过深度学习卷积网络模型计算后得出决策结果，但是使用者并不能清晰的知道深度学习卷积网络模型内部决策的过程以及决策的依据是什么，从而也无法得知决策结果是否可靠。面对这样一个黑盒如果不能有一个合理直观的解释，又怎敢放心使用这项技术？
[0004]对于一个训练好的深度学习卷积网络模型而言，由于本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于对抗攻击的深度网络模型压缩方法，其特征在于：包括以下步骤：步骤一、构建待分析的深度网络模型，深度网络模型具有k个卷积层；利用样本数据集对待分析的深度网络模型进行训练，获得训练好的网络权重，样本数据集包括多个原始数据样本；步骤二、生成对抗数据样本；步骤三、原始数据样本和与其对应的对抗数据样本构成m对数据样本对；步骤四、分别生成原始特征图和对抗特征图；步骤五、原始特征图和对抗特征图构成特征图样本对X，步骤六、利用特征图样本对X计算深度网络模型中各卷积核的样本激活值步骤七、利用各卷积核的样本激活值计算各卷积核的平均激活值步骤八、根据公式计算各卷积核的贡献度计算各卷积核的贡献度表示第l个卷积层中第f
l
个卷积核的贡献度；步骤九、根据深度网络模型各层卷积核的贡献度对深度网络模型的各层卷积核进行删减，对删减后的各层卷积核的权重和偏置项重新赋值。2.按照权利要求1所述的基于对抗攻击的深度网络模型压缩方法，其特征在于：获取删减后的深度网络模型的关键路径，根据关键路径回溯得到深度网络模型的近似树网络结构。3.按照权利要求1所述的基于对抗攻击的深度网络模型压缩方法，其特征在于：生成对抗数据样本的具体方法为：步骤201、利用训练好的深度网络模型反向传播计算每一个原始数据样本的梯度；步骤202、将每一个原始数据样本的梯度加到原始数据样本上，得到中间数据样本；步骤203、将中间数据样本输入深度网络模型进行分类，得到分类结果，将与原始数据样本的分类结果不一致的中间数据样本，确定为原始数据样本的对抗数据样本。4.按照权利要求1所述的基于对抗攻击的深度网络模型压缩方法，其特征在于：生成原始特征图和对抗特征图的具体方法为：分别将原始数据样本和与其对应的对抗数据样本输入深度网络模型，深度网络模型分别输出原始特征图和对抗特征图1≤i≤m，1≤l≤k，1≤f
l
≤c
l
，c
l
表示第l个卷积层的卷积核数量，表示第i对数据样本对中原始数据样本经过第l个卷积层中第f
l
个卷积核得到的特征图，表示第i对数据样本对中对抗特征图经过第l个卷积层中第f
l
个卷积核得到的特征图。5.按照权利要求1所述的基于对抗攻击的深度...

【专利技术属性】
技术研发人员：蒋雯，李祥，邓鑫洋，耿杰，
申请(专利权)人：西北工业大学，
类型：发明
国别省市：