一种基于元微调对抗训练的鲁棒深度学习模型的训练方法及相关设备技术

本发明专利技术提供一种基于元微调对抗训练的鲁棒深度学习模型的训练方法及相关设备。该方法包括：构建L<subgt;∞</subgt;对抗训练分支和组合对抗训练分支；构建L<subgt;∞</subgt;范数对抗样本和组合攻击对抗样本；使用L<subgt;∞</subgt;范数对抗样本对L<subgt;∞</subgt;对抗训练分支的模型参数进行梯度更新；使用组合攻击对抗样本对组合对抗训练分支的模型参数进行梯度更新；动态更新两个对抗训练分支的模型参数权重，并根据更新后的模型参数权重对L<subgt;∞</subgt;对抗训练分支和组合对抗训练分支的模型参数进行融合；采用融合后的模型参数对混合模型参数进行更新；当满足分支更新条件时，采用更新后的混合模型参数对L<subgt;∞</subgt;对抗训练分支和组合对抗训练分支的模型参数进行更新，并进行下一次迭代；当满足迭代停止条件时，则结束训练。

【技术实现步骤摘要】

本专利技术涉及人工智能，具体涉及深度学习模型的对抗鲁棒性，尤其涉及一种基于元微调对抗训练的鲁棒深度学习模型的训练方法及相关设备。

技术介绍

1、深度神经网络(dnn)近年来在许多任务中表现出色，但它们的鲁棒性受到对抗攻击的严重威胁。对抗攻击通过添加微小但有针对性的扰动，能够欺骗神经网络，使其错误地分类输入数据。这种脆弱性导致了对抗训练(adversarial training，at)方法的广泛研究，旨在提高模型在对抗攻击下的鲁棒性。

2、在现有的防御方法中，对抗训练(at)被认为是最有效的抵御对抗攻击的手段之一。at(如基于pgd的对抗训练)通过生成对抗样本并将其加入训练集，显著提升了模型的鲁棒性，尤其是对特定范数内的攻击(如l∞攻击)表现良好。然而，传统的at方法存在较大的计算成本，尤其是对于大型神经网络和大规模数据集，训练时间和资源消耗极为高昂。此外，传统at方法的鲁棒性通常局限于单一类型的对抗攻击，无法应对复杂的组合攻击或其他多范数攻击。

3、为了应对这一问题，研究者们提出了不同的改进方法。例如，广义对抗训练(generali本文档来自技高网...

【技术保护点】

1.一种基于元微调对抗训练的鲁棒深度学习模型的训练方法，所述深度学习模型用于图像处理，其特征在于，包括：

2.根据权利要求1所述的一种基于元微调对抗训练的鲁棒深度学习模型的训练方法，其特征在于，步骤2具体包括：

3.根据权利要求1所述的一种基于元微调对抗训练的鲁棒深度学习模型的训练方法，其特征在于，步骤3中，在对L∞对抗训练分支的模型参数进行梯度更新时，训练的目标函数为：

4.根据权利要求1所述的一种基于元微调对抗训练的鲁棒深度学习模型的训练方法，其特征在于，步骤3中，在对组合对抗训练分支的模型参数进行梯度更新时，训练的目标函数为：

5.根...

【技术特征摘要】

1.一种基于元微调对抗训练的鲁棒深度学习模型的训练方法，所述深度学习模型用于图像处理，其特征在于，包括：

2.根据权利要求1所述的一种基于元微调对抗训练的鲁棒深度学习模型的训练方法，其特征在于，步骤2具体包括：

3.根据权利要求1所述的一种基于元微调对抗训练的鲁棒深度学习模型的训练方法，其特征在于，步骤3中，在对l∞对抗训练分支的模型参数进行梯度更新时，训练的目标函数为：

4.根据权利要求1所述的一种基于元微调对抗训练的鲁棒深度学习模型的训练方法，其特征在于，步骤3中，在对组合对抗训练分支的模型参数进行梯度更新时，训练的目标函数为：

5.根据权利要求3所述的一种基于元微调对抗训练的鲁棒深度学习模型的训练方法，其特征在于，对l∞对抗训练分支的模型参数进行梯度更新，包括：

【专利技术属性】
技术研发人员：杨奎武，刘文钊，丁磊，李志博，侯雪梅，任修坤，王雯，郭靖臣，仝松松，丁梦迪，薛岩，黄万伟，
申请(专利权)人：中国人民解放军网络空间部队信息工程大学，
类型：发明
国别省市：