标签差分隐私深度学习的启发式审计体系与方法技术

本发明专利技术涉及网络安全与隐私计算领域，尤其涉及面向标签差分隐私深度学习的启发式审计体系与方法。首先，生成器G生成相差T对样本标签的数据集其次，黑盒模型M分别使用数据集D0和D

【技术实现步骤摘要】
标签差分隐私深度学习的启发式审计体系与方法


[0001]本专利技术涉及网络安全与隐私计算领域，尤其涉及面向标签差分隐私深度学习的启发式审计体系与方法。

技术介绍

[0002]标签差分隐私作为差分隐私的一种放松形式，对于适用仅标签隐私的场景，能够实现更好的算法效用，在近年来得到了人们的重视。于此同时，由于差分隐私提供了最坏情况下的隐私保证，在理论上能够提供ε
TH
隐私保护的算法，在实际中往往能够提供比ε
TH
更多的隐私保护，即隐私预算真实值ε
P
是一个以ε
TH
为上界的随机值。因此通过对满足标签差分隐私的黑盒算法进行隐私审计，方能确定黑盒算法提供的隐私保护力度。隐私审计常通过实例化猜谜游戏，并利用蒙特卡罗统计实验，根据算法的隐私泄露程度，度量隐私预算下界ε
LB
。但基于蒙特卡罗的审计方法存在着时间损耗大的通病。如：
[0003]Nasr等人面向差分隐私随机梯度下降算法(DP
‑
SGD)进行隐私审计，将隐私泄露过程形式化为一个猜谜游戏本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.标签差分隐私深度学习的启发式审计方法，其特征在于：包括步骤1：生成T
‑
相邻数据集步骤2：黑盒模型M分别使用数据集D0和D
1(T)
进行训练，得到模型输出f0，f1；步骤3：在f0，f1中随机选择一个模型输出f
d
，并依据f
d
，样本对(x
i
,y
i
)，(x
i
,y
i
′
)，猜测训练集下标d值，猜测结果记作d
′
，总计猜测T轮；步骤4：根据T轮猜谜结果d和d
′
，统计得FN和FP；步骤5：将所得FN和FP带入公式得到满足(ε
TH
,δ)
‑
Label DP的算法真实隐私预算ε
P
区间为(ε
LB
,ε
TH
)。2.标签差分隐私深度学习的启发式审计体系，其特征在于：包括四个模块：生成器G、模型训练、鉴别器D和统计器S，每个模块执行权利要求1中不同的步骤；生成器G：负责执行步骤1，生成两个相差T对样本标签的数据集模型训练：负责执行步骤2，分别利用数据集D0，D
1(T)
训练黑盒模型M，得到模型输出f0，f1；鉴别器D：负责执行步骤3，已知样本对(x
i
,y
i
)，(x
i
,y
i
′
)及模型输出f0，f1，一次性进行T轮猜谜游戏；统计器S：负责执行步骤4、5，根据T轮猜谜结果d和d
′
，统计FN值和FP值，并由此度量隐私预算下界ε
LB
，得到真实隐私预算区间为ε
P
∈(ε
LB
,ε
TH
)。3.根据权利要求1所述的标签差分隐私深度学习的启发式审计方法，其特征在于：步骤3具体为：在每轮游戏开始前，从f0和f1中随机选择一个模型输出f
d
进行猜谜游戏，d表示谜底，即训练模型的数据集下标；而后将样本对(x
i
,y
i
′
)，(x
i
,y
i
′
)换算为相邻数据集并根据D
d
、D1‑
d
、f
d
，猜测d值是0还是1，猜测结果记作d
′
。4.根据权利要求3所述的标签差分隐私深度学习的启发式审计方法，其特征在于：步骤1具体为：步骤1
‑
1：已知一个数据集D0和黑盒模型M，并将M关于D0的模型函数f0作为标签投毒过程的先验知识；步骤1
‑
2：随机选择T对目标样本(x
i
,y
i
)
T
进行标签投毒，T值一般不得小于1000；步骤1
‑
3：令恶意标签(y
i
′
)
T
...

【专利技术属性】
技术研发人员：徐焱，王伟，冯琬云，
申请(专利权)人：江苏刺掌信息科技有限公司，
类型：发明
国别省市：