基于时序图卷积网络的后门实时监测方法、电子设备、介质技术

本发明专利技术公开了一种基于时序图卷积网络的后门实时监测方法、电子设备、介质，选取正常数据集，通过掩码矩阵指定触发器在正常数据集上添加的位置以生成后门数据集，基于正常数据集与后门数据集分别对神经网络模型进行训练，得到不同时刻的正常模型和其对应的后门模型；基于神经元阈值构建模型图：计算模型图对应的图签名向量，并拼接得到序列图签名矩阵；利用序列图签名矩阵训练时序图卷积网络作为后门监测器；对于任意一个由深度神经网络构成的待检测模型，计算该待检测模型对应的序列图签名矩阵，将该序列图签名矩阵输入后门监测器中，从而实现对待检测模型不同训练时刻状态的回溯和监测。和监测。和监测。

【技术实现步骤摘要】
基于时序图卷积网络的后门实时监测方法、电子设备、介质


[0001]本专利技术属于后门攻击防御检测领域，具体涉及一种基于时序图卷积网络的后门实时监测方法、电子设备、介质。

技术介绍

[0002]近年来，深度神经网络(DNN)已成功应用于许多关键任务中，例如人脸识别、自动驾驶、智能医疗、无人机巡航等，因为其安全性意义重大所以引起了广泛关注。现有的针对DNN的安全性研究的更多得集中在对抗性攻击的研究上，它探索了DNN在推理阶段的对抗性漏洞。除了推理阶段，DNN的训练包含更多的步骤，包括数据收集、数据预处理、模型选择和构建、训练、模型保存、模型部署等。这些步骤都存在被攻击者恶意袭击的可能性。同时，因为DNN的强大能力很大程度上依赖于大量的训练数据和计算资源。为了降低训练成本，很多个人用户和小型企业可以选择采用第三方的免费数据集，而不是自己收集训练数据；也可以基于第三方平台(如云计算平台)训练DNN来代替本地训练；用户甚至可以直接使用第三方提供的预训练模型来实现本地任务。便利的代价是失去对训练阶段的控制，这可能会进一步扩大训练DNN过程中存在的安全风险。本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于时序图卷积网络的后门实时监测方法，其特征在于，所述方法具体包括以下步骤：(1)选取正常数据集，通过掩码矩阵指定触发器在正常数据集上添加的位置以生成后门数据集，基于正常数据集与后门数据集分别对神经网络模型进行训练，得到不同时刻的正常模型和其对应的后门模型；(2)构建模型图：将神经网络模型神经元输出值大于等于阈值的神经元定义为激活神经元，将神经元输出值小于阈值的神经元定义为非激活神经元；保留激活神经元及其相连的权重用于构建模型图的拓扑结构；激活神经元之间的通路作为激活通路，在模型图的拓扑结构上添加激活通路得到构建的模型图；(3)分别计算步骤(2)中构建的模型图包括图聚类系数、全局平均度、平均路径长度、模块化指标在内的图指标作为一图签名向量；并将计算得到的若干图签名向量按时序依次拼接得到序列图签名矩阵；(4)利用步骤(3)得到的序列图签名矩阵训练时序图卷积网络作为后门监测器；(5)对于任意一个由深度神经网络构成的待检测模型，重复步骤(2)和(3)，得到该待检测模型对应的序列图签名矩阵，将该序列图签名矩阵输入步骤(4)训练得到的后门监测器中，所述后门监测器计算得到当前训练时间段待检测模型可能引入后门的概率，从而实现对待检测模型不同训练时刻状态的回溯和监测。2.根据权利要求1所述的基于时序图卷积网络的后门实时监测方法，其特征在于，所述步骤(2)中获取神经网络模型中每层神经元权重的最大值w
max
，以0.5w
max
为阈值。3.根据权利要求1或2所述的基于时序图卷积网络的后门实时监测方法，其特征在于，所述步骤(2)具体包括：根据(1)中训练得到的干净模型和后门模型，干净模型和后门模型为全连接层的结构时，对激活神经元提取关键输出权重；将样本依次输入每个模型中，记录每一层的输出为：Output
l
＝Layer
l
(Output
l
‑1)其中，Layer
l
表示第l层的层函数,Output
l
是上一层的参数输入第l层的层函数中返回的输出矩阵；记样本在后门模型第l层的输出为样本在干净模型第l层的输出为激活神经元和未激活神经元通过每一层的激活阈值划分，将神经网络模型神经元输出值大于等于阈值的神经元定义为激活神经元，将神经元输出值小于阈值的神经元定义为非激活神经元；将激活神经元之间的通路作为激活通路，保存激活通路的...

【专利技术属性】
技术研发人员：陈晋音，贾澄钰，金海波，
申请(专利权)人：浙江工业大学，
类型：发明
国别省市：