基于复合对抗攻击的模型训练方法、装置、设备及介质制造方法及图纸

本申请涉及人工智能技术领域，揭示了一种基于复合对抗攻击的模型训练方法、装置、设备及介质，其中方法包括：获取待预测数据；将所述待预测数据输入目标模型进行预测，其中，所述目标模型是基于自动搜寻对抗攻击组合数据进行复合对抗攻击训练得到的模型；获取所述目标模型输出的与所述待预测数据对应的预测结果。通过复合对抗攻击提高了目标模型的鲁棒性，通过自动搜寻对抗攻击组合数据避免人为选择攻击方式的偶然性，提高了攻击效果，进一步提高了对抗防御训练后对模型的鲁棒性。了对抗防御训练后对模型的鲁棒性。了对抗防御训练后对模型的鲁棒性。

【技术实现步骤摘要】
基于复合对抗攻击的模型训练方法、装置、设备及介质


[0001]本申请涉及到人工智能
，特别是涉及到一种基于复合对抗攻击的模型训练方法、装置、设备及介质。

技术介绍

[0002]近年来，深度学习得到了广泛的关注和研究，因其在许多困扰传统机器学习和人工智能多年的难题上取得了重大突破。深度学习在许多机器学习任务上表现突出，比如，图像分类、目标识别、语音识别、语言翻译和语音合成等
同时，随着深度学习技术的不断发展，深度学习逐渐被应用在高安全性要求的
，比如，自动驾驶、恶意软件检测、人脸识别、语音命令识别等。虽然深度学习已经在诸多机器学习任务上取得了巨大成功，但是也有研究表明，即便是性能最优秀的深度学习模型，也会被对抗攻击所击破。特别是当深度学习模型开始被应用到高安全性要求的
时，模型能否抵御敌对威胁和潜在攻击对于模型的应用具有重要意义。
[0003]对抗攻击主要是通过在输入模型的数据上添加人眼察觉不到的微扰生成对抗样本，从而达到可以欺骗深度学习模型的效果，即用一个相似的输入得到截然不同的模型输出，并且有很高的置信度。目本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于复合对抗攻击的模型训练方法，其特征在于，所述方法包括：获取待预测数据；将所述待预测数据输入目标模型进行预测，其中，所述目标模型是基于自动搜寻对抗攻击组合数据进行复合对抗攻击训练得到的模型；获取所述目标模型输出的与所述待预测数据对应的预测结果。2.根据权利要求1所述的基于复合对抗攻击的模型训练方法，其特征在于，所述将所述待预测数据输入目标模型进行预测的步骤之前，还包括：获取真实训练样本集、待训练模型和对抗攻击组合数据集；根据所述真实训练样本集、所述待训练模型和所述对抗攻击组合数据集生成对抗训练样本集；对所述对抗训练样本集进行划分，得到待处理训练样本集和测试集；采用所述待处理训练样本集和所述真实训练样本集，对所述待训练模型进行训练，将训练结束的所述待训练模型作为待验证模型；采用所述测试集对所述待验证模型进行验证，得到模型验证结果；当所述模型验证结果为失败时，对所述对抗训练样本集中的对抗训练样本的顺序进行随机调整，重复执行对所述对抗训练样本集进行划分，得到待处理训练样本集和测试集的步骤，直至所述模型验证结果为成功；将为成功的所述模型验证结果对应的所述待验证模型作为所述待训练模型，重复执行所述根据所述真实训练样本集、所述待训练模型和所述对抗攻击组合数据集生成对抗训练样本集的步骤，直至达到复合对抗攻击训练结束条件；将达到所述复合对抗攻击训练结束条件的所述待训练模型作为所述目标模型。3.根据权利要求2所述的基于复合对抗攻击的模型训练方法，其特征在于，所述根据所述真实训练样本集、所述待训练模型和所述对抗攻击组合数据集生成对抗训练样本集的步骤，包括：根据所述真实训练样本集、所述待训练模型和所述对抗攻击组合数据集进行所述对抗攻击组合数据的搜索，得到目标对抗攻击组合数据；根据所述真实训练样本集和所述目标对抗攻击组合数据进行对抗样本数据生成，得到对抗样本数据集；根据所述真实训练样本集中的各个真实样本标定值和所述对抗样本数据集进行对抗训练样本生成，得到所述对抗训练样本集。4.根据权利要求3所述的基于复合对抗攻击的模型训练方法，其特征在于，所述根据所述真实训练样本集、所述待训练模型和所述对抗攻击组合数据集进行所述对抗攻击组合数据的搜索，得到目标对抗攻击组合数据的步骤，包括：采用搜寻算法和复合对抗攻击损失函数，根据所述真实训练样本集、所述待训练模型和所述对抗攻击组合数据集进行损失值计算，得到损失值集；从所述损失值集中找出最小值的损失值作为目标损失值；将所述目标损失值对应的所述对抗攻击组合数据作为所述目标对抗攻击组合数据；其中，所述复合对抗攻击损失函数的计算公式L
com
为：
L
s
是交叉熵损失函数，F(s
k
(x
j
))是所述待训练模型对s
k
(x
j
)的预测值，x
j
是所述真实训练样本集中的第j个真实训练...

【专利技术属性】
技术研发人员：柳贤伟，
申请(专利权)人：平安普惠企业管理有限公司，
类型：发明
国别省市：