一种面向隐私保护神经网络模型的多标签后门攻击检测与识别方法技术

本申请公开了一种面向隐私保护神经网络模型的多标签后门攻击检测与识别方法，包含以下步骤：步骤1首先在三方密文环境下使用SMPC技术进行隐私保护模型训练，产生掩码矩阵Mask和触发器矩阵Pattern的初始化函数；步骤2构建对抗性输入TrojanInput函数；步骤3进行掩码矩阵和触发器矩阵的优化训练，优化(mask，pattern)函数；步骤4触发器逆向工程函数Reverse Engineering；步骤5通过后门攻击识别算法，异常值检测函数Backdoor Identificatio。本发明专利技术设计了在保护数据及模型参数隐私前提下检测模型是否被后门攻击以及具体哪个标签被攻击的后门攻击检测方案。及具体哪个标签被攻击的后门攻击检测方案。及具体哪个标签被攻击的后门攻击检测方案。

【技术实现步骤摘要】
一种面向隐私保护神经网络模型的多标签后门攻击检测与识别方法


[0001]本专利技术涉及密码学、机器学习(深度学习)以及机器学习安全
，具体地说，是对隐藏了后门的具有隐私保护性质的神经网络模型进行多标签后门攻击的检测与识别。

技术介绍

[0002]深度神经网络(deep neural networks,DNNs)在许多领域取得了惊人的成就，基于DNNs的应用正在深刻地改变我们生活的方方面面，如医疗诊断、自动驾驶和图像处理。DNNs模型一般可以通过训练数据集训练或基于预训练模型的再训练来获得。为了获得更准确的模型，通常需要获得大量的数据进行模型训练。由于时间或金钱成本的原因，用户很难在个人电脑上完成DNN的训练。因此，用户希望将模型外包给云服务器进行训练。然而，将模型外包给云服务器进行训练也会带来更多的隐私和安全风险。众所周知，DNN的训练过程包括几个步骤，如数据收集、数据处理、数据训练、模型参数的存储和使用等。在DNNs模型的训练过程中涉及的步骤越多，产生的隐私和安全风险就越大。
[0003]在隐私风险方面，一些数据由于身份识别、健本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种面向隐私保护神经网络模型的多标签后门攻击检测与识别方法，其特征在于，所述方法包含以下步骤：步骤1，首先在三方密文环境下使用SMPC技术进行隐私保护模型训练，产生掩码矩阵Mask和触发器矩阵Pattern的初始化函数；步骤2，构建对抗性输入TrojanInput函数；步骤3，进行掩码矩阵和触发器矩阵的优化训练，优化(mask，pattern)函数；步骤4，触发器逆向工程函数Reverse Engineering；步骤5，通过后门攻击识别算法，异常值检测函数Backdoor Identificatio。2.根据权利要求1所述的一种面向隐私保护神经网络模型的多标签后门攻击检测与识别方法，其特征在于，三方服务器P0，P1和P2将协同随机产生mask和pattern。3.根据权利要求1所述的一种面向隐私保护神经网络模型的多标签后门攻击检测与识别方法，其特征在于，三方服务器P0，P1和P2使用秘密分享的mask和pattern本地构建对抗性输入TrojanInput，对抗性输入的构建公式如公式(...

【专利技术属性】
技术研发人员：魏立斐，张蕾，陈聪聪，
申请(专利权)人：上海海洋大学，
类型：发明
国别省市：