面向深度学习模型中毒攻击的检测方法、装置及系统制造方法及图纸

本发明专利技术公开了一种面向深度学习模型中毒攻击的检测方法、装置及系统，包括：(1)获取样本集和待检测模型；(2)预训练与待检测模型结构相同的良性模型；(3)对部分样本进行数据增广，组成新样本集；(4)将每一类新样本作为目标类，剩下的所有类新样本作为源类，对预训练后的良性模型进行目标类的多种中毒攻击，获得多种中毒模型和多种中毒样本；(5)获得中毒样本在所有非所出中毒模型下的检测结果，依据检测结果筛选并构建中毒模型池和中毒样本池；(6)依据中毒样本在待检测深度学习模型的检测结果和中毒样本在非所出中毒模型下的检测结果来判断待检测深度学习模型是否中毒。来实现对面向深度学习模型中毒攻击的快速准确检测。面向深度学习模型中毒攻击的快速准确检测。面向深度学习模型中毒攻击的快速准确检测。

【技术实现步骤摘要】
面向深度学习模型中毒攻击的检测方法、装置及系统


[0001]本专利技术属于中毒检测领域，具体涉及一种面向深度学习模型中毒攻击的检测方法、装置及系统。

技术介绍

[0002]深度学习逐渐成为人工智能领域的研究热点和主流发展方向。深度学习是由多个处理层组成的计算模型，学习具有多个抽象层次的数据表示的机器学习技术。深度学习代表了机器学习和人工智能研究的主要发展方向，给机器学习和计算机视觉等领域带来了革命性的进步。人工智能技术在计算机视觉和自然语言处理等领域取得突破，使人工智能迎来了新一轮的爆炸式发展。深度学习是这些突破的关键。其中，基于深度卷积网络的图像分类技术已经超过了人眼的精度，基于深度神经网络的语音识别技术已经达到了95％的精度，基于深度神经网络的机器翻译技术已经接近了人类的平均翻译水平。随着精度的迅速提高，计算机视觉和自然语言处理已经进入产业化阶段，并带动了新兴产业的兴起。
[0003]基于神经网络的人工智能模型被广泛应用于人脸识别、目标检测和自主驾驶等多种应用中，证明了它们的优越性超过传统的计算方法。越来越多的人倾向于相信人工智能模本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种面向深度学习模型中毒攻击的检测方法，其特征在于，包括以下步骤：(1)获取样本集和待检测深度学习模型；(2)构建与待检测深度学习模型结构相同的良性模型，并采用样本集预训练良性模型；(3)从样本集中获取部分样本数据进行数据增广，针对每类样本获得相同数量的新样本数据，组成新样本数据集；(4)将新样本数据集的每一类新样本数据作为目标类，剩下的所有类新样本数据作为源类，对预训练后的良性模型进行目标类的多种中毒攻击，获得多种中毒模型和中毒模型对应的多种中毒样本；(5)利用中毒模型对其他中毒模型生成的中毒样本进行检测，获得中毒样本在所有非所出中毒模型下的检测结果，依据检测结果筛选并构建中毒模型池和中毒样本池；(6)将中毒样本池中的中毒样本输入至待检测深度学习模型中，依据中毒样本在待检测深度学习模型的检测结果和中毒样本在非所出中毒模型下的检测结果来判断待检测深度学习模型是否中毒。2.如权利要求1所述的面向深度学习模型中毒攻击的检测方法，其特征在于，所述样本集为图像数据集，所述待检测深度学习模型为深度学习模型，采用样本集预训练良性模型时，以样本数据的预测结果和真实标签的交叉熵作为损失函数来更新良性模型的网络参数。3.如权利要求1所述的面向深度学习模型中毒攻击的检测方法，其特征在于，对样本集中获取部分样本数据进行图像翻转、旋转、局部变形处理实现数据增广，针对每类别获得m张新样本数据，总计获得m*n个新样本数据，组成新样本数据集，n为类别数。4.如权利要求1所述的面向深度学习模型中毒攻击的检测方法，其特征在于，在中毒攻击时，选取第i类的m张新样本数据作为目标类，取第j类m张样本作为源类，其中，i∈[1,2,...,n
‑
1,n]，j∈[1,2,...,n
‑
1,n]，且j≠i，依次将源类作为预训练后的良性模型的输入，并采用多种中毒攻击方法对良性模型进行趋向于目标类的中毒攻击，针对每种中毒攻击方法获取n*(n
‑
1)个中毒模型M
poison_1
＝{M1,M2,...,M
n*(n
‑
1)
}和n*(n
‑
1)种中毒样本，共计m*n*(n
‑
1)张中毒样本X
poison_1
＝{X1,X2,...,X
m*n*(n
‑
1)
}，针对c种中毒方法，则共获得n*(n
‑...

【专利技术属性】
技术研发人员：陈晋音，邹健飞，熊晖，刘毅，
申请(专利权)人：浙江工业大学，
类型：发明
国别省市：