用于评估对抗鲁棒性的方法和装置制造方法及图纸

技术编号：41132506 阅读：19 留言：0更新日期：2024-04-30 18:02

本公开内容提供了一种用于评估对抗鲁棒性的方法。该方法包括：基于一组学习型防御模型集和训练数据，学习由递归神经网络(RNN)参数化的优化器，以最大限度地降低该组学习型防御模型的性能；以及通过使用所学习的优化器攻击至少一个目标防御模型，来评估该至少一个目标防御模型在目标数据集或数据点上的对抗鲁棒性。

全部详细技术资料下载

【技术实现步骤摘要】
【国外来华专利技术】

概括地说，本公开内容的各方面涉及人工智能，具体地说，本公开内容的各方面涉及用于评估对抗鲁棒性的方法和装置。

技术介绍

1、已经证明深度学习和深度神经网络在诸如计算机视觉、语音和音频处理、自然语言处理、机器人、生物信息学和化学、视频游戏、搜索引擎、在线广告和金融等等之类的广泛领域非常有用，但也证明了这些模型容易受到恶意生成的示例的影响，这些示例旨在通过向正常示例添加微小扰动(例如，与自然数据几乎无法区分但被网络错误地分类的输入)来引起错误的模型预测。特别是，最近在计算机视觉方面的突破正在将网络带入安全关键系统的中心。重要的例子包括用于自动驾驶汽车的视觉、人脸识别和恶意软件检测。这些发展使得机器学习的安全方面变得越来越重要。

2、在这种情况下，已经提出了多种防御方法来提高网络的对抗鲁棒性。因此，将对抗性攻击广泛地用作不可或缺的解决方案来评估不同防御方法的对抗鲁棒性。

3、大多数现有的攻击采用诸如vanilla梯度下降、动量或adam之类的手工设计的优化算法，来生成对抗性示例。然而，已经证明，这些攻击可能是次优的，从而...

【技术保护点】

1.一种用于评估对抗鲁棒性的方法，包括：

2.根据权利要求1所述的方法，其中，在所述学习的每次迭代时，将该组学习型防御模型划分为一个或多个学习型防御模型的元训练子集和一个或多个学习型防御模型的元测试子集，并且，所述RNN是沿着基于从一个或多个学习型防御模型的所述元训练子集导出的元训练梯度和基于所导出的元训练梯度从一个或多个学习型防御模型的所述元测试子集导出的元测试梯度所确定的方向来更新的。

3.根据权利要求1所述的方法，其中，通过利用投影梯度下降(PGD)更新规则来对所述优化器的输出进行正则化，来在所述学习中采用相对于先验的正则化后验。