深度不动点网络的白盒对抗鲁棒性评价方法及装置制造方法及图纸

本发明专利技术实施例提供一种深度不动点网络的白盒对抗鲁棒性评价方法及装置，该方法包括：对深度不动点网络进行对抗训练；对深度不动点网络的前向迭代求解器给出的中间状态进行梯度估计，得到中间状态对应的中间梯度；利用中间梯度获取自适应的白盒攻击方法；基于经过对抗训练的深度不动点网络，利用中间状态获取自适应的防御方法；使用白盒攻击方法和防御方法对深度不动点网络进行白盒鲁棒性评价。本发明专利技术实施例提供的深度不动点网络的白盒对抗鲁棒性评价方法及装置，能够有效地避免DEQ网络因其网络设计带来的梯度混淆问题，从而能够对其白盒鲁棒性进行真实评价，并可扩展应用于其他隐式定义的网络模型。隐式定义的网络模型。隐式定义的网络模型。

【技术实现步骤摘要】
深度不动点网络的白盒对抗鲁棒性评价方法及装置


[0001]本专利技术实施例涉及计算机
，具体涉及一种深度不动点网络的白盒对抗鲁棒性评价方法及装置。

技术介绍

[0002]深度不动点网络(Deep Equilibrium Models,简称DEQ)是一种新型神经网络，其最大的特点是“只有一层”。传统神经网络往往由数十层的非线性变换堆叠而成，在对输入数据不断降维并学习表示的同时，层数的加深也导致了参数量和内存消耗的成倍增长。相比之下，DEQ网络将输入在传统神经网络层间传播的过程视作了一个不动点求解的过程。DEQ网络直接使用一层非线性变换建模中间层表示的不动点，即
[0003]z
*
＝f
θ
(z
*
；x),
[0004]其中变换f由θ进行参数化。f
θ
函数即为DEQ网络中的单层非线性变换。以样本x为输入，f
θ
(
·
；x)可接收任一中间状态z并对其进行变换。当状态在作用f
θ
变换前后不发生改变时得到不动点本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种深度不动点网络的白盒对抗鲁棒性评价方法，其特征在于，包括：对深度不动点网络进行对抗训练；对所述深度不动点网络的前向迭代求解器给出的中间状态进行梯度估计，得到所述中间状态对应的中间梯度；利用所述中间梯度获取自适应的白盒攻击方法；基于经过所述对抗训练的所述深度不动点网络，利用所述中间状态获取自适应的防御方法；使用所述白盒攻击方法和所述防御方法对所述深度不动点网络进行白盒鲁棒性评价。2.根据权利要求1所述的深度不动点网络的白盒对抗鲁棒性评价方法，其特征在于，所述对所述深度不动点网络的前向迭代求解器给出的中间状态进行梯度估计，得到所述中间状态对应的中间梯度，包括：随所述深度不动点网络的前向迭代求解器的迭代过程，计算所述中间状态对应的伴随状态；根据所述伴随状态计算对应的所述中间状态的所述中间梯度。3.根据权利要求2所述的深度不动点网络的白盒对抗鲁棒性评价方法，其特征在于，所述中间梯度表示为：其中，表示与中间状态z
n
对应的中间梯度；u
n
表示与中间状态z
n
对应的伴随状态，f
θ
函数为DEQ网络中的单层非线性变换；x表示输入样本。4.根据权利要求1所述的深度不动点网络的白盒对抗鲁棒性评价方法，其特征在于，所述对所述深度不动点网络的前向迭代求解器给出的中间状态进行梯度估计，得到所述中间状态对应的中间梯度，包括：从所述深度不动点网络的前向迭代求解器获得中间状态序列；对所述中间状态序列中的中间状态进行直接展开，利用自动微分框架反向传播进行梯度估计，得到所述中间状态的所述中间梯度。5.根据权利要求4所述的深度不动点网络的白盒对抗鲁棒性评价方法，其特征在于，所述中间梯度表示为：述中间梯度表示为：述中间梯度表示为：
其中，表示与中间状态z
n
对应的中间梯度；y表示输出标签；k表示展开步数；λ表示内插的系数；L(z,y)表示损失函数；I表示单位向量；x表示输入样本；m取值为1至k；f
θ
函数为DEQ网络中的单层非线性变换。6.根据权利要求1所述的深度不动点网络的白盒对抗鲁棒性评价方法，其特征在于，所述利用所述中间梯度获取自适应的白盒攻击方法，包括：分别根据所述深度不动点网络的前向迭代求解器给出的N个中间状态对应的中间梯度得到N个用于白盒测试的对抗样本，进而得到N个白盒攻击方法；计算所述深度不动点网络的前向迭代求解器给出的N个中间状态对应的...

【专利技术属性】
技术研发人员：杨宗瀚，刘洋，
申请(专利权)人：清华大学，
类型：发明
国别省市：