标签差分隐私深度学习的启发式审计体系与方法技术

技术编号:35737200 阅读:42 留言:0更新日期:2022-11-26 18:39
本发明专利技术涉及网络安全与隐私计算领域,尤其涉及面向标签差分隐私深度学习的启发式审计体系与方法。首先,生成器G生成相差T对样本标签的数据集其次,黑盒模型M分别使用数据集D0和D

【技术实现步骤摘要】
标签差分隐私深度学习的启发式审计体系与方法


[0001]本专利技术涉及网络安全与隐私计算领域,尤其涉及面向标签差分隐私深度学习的启发式审计体系与方法。

技术介绍

[0002]标签差分隐私作为差分隐私的一种放松形式,对于适用仅标签隐私的场景,能够实现更好的算法效用,在近年来得到了人们的重视。于此同时,由于差分隐私提供了最坏情况下的隐私保证,在理论上能够提供ε
TH
隐私保护的算法,在实际中往往能够提供比ε
TH
更多的隐私保护,即隐私预算真实值ε
P
是一个以ε
TH
为上界的随机值。因此通过对满足标签差分隐私的黑盒算法进行隐私审计,方能确定黑盒算法提供的隐私保护力度。隐私审计常通过实例化猜谜游戏,并利用蒙特卡罗统计实验,根据算法的隐私泄露程度,度量隐私预算下界ε
LB
。但基于蒙特卡罗的审计方法存在着时间损耗大的通病。如:
[0003]Nasr等人面向差分隐私随机梯度下降算法(DP

SGD)进行隐私审计,将隐私泄露过程形式化为一个猜谜游戏本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.标签差分隐私深度学习的启发式审计方法,其特征在于:包括步骤1:生成T

相邻数据集步骤2:黑盒模型M分别使用数据集D0和D
1(T)
进行训练,得到模型输出f0,f1;步骤3:在f0,f1中随机选择一个模型输出f
d
,并依据f
d
,样本对(x
i
,y
i
),(x
i
,y
i

),猜测训练集下标d值,猜测结果记作d

,总计猜测T轮;步骤4:根据T轮猜谜结果d和d

,统计得FN和FP;步骤5:将所得FN和FP带入公式得到满足(ε
TH
,δ)

Label DP的算法真实隐私预算ε
P
区间为(ε
LB

TH
)。2.标签差分隐私深度学习的启发式审计体系,其特征在于:包括四个模块:生成器G、模型训练、鉴别器D和统计器S,每个模块执行权利要求1中不同的步骤;生成器G:负责执行步骤1,生成两个相差T对样本标签的数据集模型训练:负责执行步骤2,分别利用数据集D0,D
1(T)
训练黑盒模型M,得到模型输出f0,f1;鉴别器D:负责执行步骤3,已知样本对(x
i
,y
i
),(x
i
,y
i

)及模型输出f0,f1,一次性进行T轮猜谜游戏;统计器S:负责执行步骤4、5,根据T轮猜谜结果d和d

,统计FN值和FP值,并由此度量隐私预算下界ε
LB
,得到真实隐私预算区间为ε
P
∈(ε
LB

TH
)。3.根据权利要求1所述的标签差分隐私深度学习的启发式审计方法,其特征在于:步骤3具体为:在每轮游戏开始前,从f0和f1中随机选择一个模型输出f
d
进行猜谜游戏,d表示谜底,即训练模型的数据集下标;而后将样本对(x
i
,y
i

),(x
i
,y
i

)换算为相邻数据集并根据D
d
、D1‑
d
、f
d
,猜测d值是0还是1,猜测结果记作d

。4.根据权利要求3所述的标签差分隐私深度学习的启发式审计方法,其特征在于:步骤1具体为:步骤1

1:已知一个数据集D0和黑盒模型M,并将M关于D0的模型函数f0作为标签投毒过程的先验知识;步骤1

2:随机选择T对目标样本(x
i
,y
i
)
T
进行标签投毒,T值一般不得小于1000;步骤1

3:令恶意标签(y
i

)
T
...

【专利技术属性】
技术研发人员:徐焱王伟冯琬云
申请(专利权)人:江苏刺掌信息科技有限公司
类型:发明
国别省市:

相关技术
    暂无相关专利
网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1