隐私保护算法的验证方法、装置及电子设备制造方法及图纸

本说明书实施例提供一种隐私保护算法的验证方法、装置及电子设备，所述隐私保护算法为差分隐私类的随机算法；根据该方法，获取互为相邻数据集的第一隐私仿真数据集和第二隐私仿真数据集；通过多次调用所述隐私保护算法，处理所述第一隐私仿真数据集，得到多个第一结果，以及处理所述第二隐私仿真数据集，得到多个第二结果；基于所述多个第一结果和所述多个第二结果，利用假设检验的方式得到表征所述隐私保护算法的隐私保护性能的权衡函数。如此能够便捷且准确地对隐私保护算法的隐私保护性能做出决策。护性能做出决策。护性能做出决策。

【技术实现步骤摘要】
隐私保护算法的验证方法、装置及电子设备
[0001]本申请为2020年09月04日提交的申请号为2020109225881，名为“隐私保护算法的验证方法、装置及电子设备”的专利技术专利申请的分案申请。


[0002]本说明书一个或多个实施例涉及隐私保护
，特别涉及一种隐私保护算法的验证方法、装置及电子设备。

技术介绍

[0003]随着大数据技术的不断发展，数据的隐私保护问题也变得越来越重要。目前来说，通常采用预先设计的隐私保护算法对需要保护隐私的数据进行分析处理。隐私保护算法的性能对隐私保护的效果起着决定性作用，因此，对隐私保护算法性能的验证具有重要的意义。但是，目前并没有通用、简单且直观的对隐私保护算法进行验证的方式。

技术实现思路

[0004]为了解决上述技术问题之一，本说明书一个或多个实施例提供一种隐私保护算法的验证方法、装置及电子设备。
[0005]根据第一方面，提供一种隐私保护算法的验证方法，包括：
[0006]获取第一隐私仿真数据集、第二隐私仿真数据集以及待验证的隐私保护算法；所述第一隐私仿真数据集和所述第二隐私仿真数据集为相邻数据集；所述隐私保护算法为差分隐私类的随机算法；
[0007]多次调用所述隐私保护算法处理所述第一隐私仿真数据集，得到多个第一结果，以及多次调用所述隐私保护算法处理所述第二隐私仿真数据集，得到多个第二结果；其中，每次调用所述隐私保护算法采用的随机数状态不同；
[0008]构建所述多个第一结果的累积分布函数；
[0009]确定每个所述第二结果针对所述累积分布函数的p值，得到多个p值；其中，将任一第二结果作为自变量代入所述累积分布函数所得结果与该第二结果的p值之和为1；
[0010]构建所述多个p值的互补累积分布函数，作为用于验证所述隐私保护算法的权衡函数；所述权衡函数的图像表征了所述隐私保护算法的隐私保护性能。
[0011]可选的，所述累积分布函数为所述多个第一结果的经验分布函数。
[0012]可选的，所述权衡函数为1减所述多个p值的经验分布函数。
[0013]可选的，所述第一隐私仿真数据集和所述第二隐私仿真数据集通过如下方式得到：
[0014]获取基于隐私仿真数据构建的第一隐私仿真数据集；
[0015]确定所述第一隐私仿真数据集的多个相邻数据集；
[0016]获取所述隐私保护算法所对应的非隐私保护的原始算法；
[0017]调用所述原始算法处理所述第一隐私仿真数据集，得到第一处理结果；
[0018]调用所述原始算法处理所述多个相邻数据集中的每个相邻数据集，得到每个相邻数据集对应的第二处理结果；
[0019]选取与所述第一处理结果的距离值最大的第二处理结果所对应的相邻数据集，作为第二隐私仿真数据集。
[0020]可选的，所述距离值包括以下任意一项：
[0021]欧式距离值，余弦距离值，曼哈顿距离值，切比雪夫距离值以及汉明距离值。
[0022]可选的，所述方法还包括：
[0023]获取参考函数；
[0024]将所述参考函数的图像与所述权衡函数的图像显示于同一界面的同一坐标系中。
[0025]根据第二方面，提供一种隐私保护算法的验证装置，包括：
[0026]获取模块，用于获取第一隐私仿真数据集、第二隐私仿真数据集以及待验证的隐私保护算法；所述第一隐私仿真数据集和所述第二隐私仿真数据集为相邻数据集；所述隐私保护算法为差分隐私类的随机算法；
[0027]调用模块，用于多次调用所述隐私保护算法处理所述第一隐私仿真数据集，得到多个第一结果，以及多次调用所述隐私保护算法处理所述第二隐私仿真数据集，得到多个第二结果；其中，每次调用所述隐私保护算法采用的随机数状态不同；
[0028]第一构建模块，用于构建所述多个第一结果的累积分布函数；
[0029]确定模块，用于确定每个所述第二结果针对所述累积分布函数的p值，得到多个p值；其中，将任一第二结果作为自变量代入所述累积分布函数所得结果与该第二结果的p值之和为1；
[0030]第二构建模块，用于构建所述多个p值的互补累积分布函数，作为用于验证所述隐私保护算法的权衡函数；所述权衡函数的图像表征了所述隐私保护算法的隐私保护性能。
[0031]可选的，所述累积分布函数为所述多个第一结果的经验分布函数。
[0032]可选的，所述权衡函数为1减所述多个p值的经验分布函数。
[0033]可选的，所述第一隐私仿真数据集和所述第二隐私仿真数据集通过如下方式得到：
[0034]获取基于隐私仿真数据构建的第一隐私仿真数据集；
[0035]确定所述第一隐私仿真数据集的多个相邻数据集；
[0036]获取所述隐私保护算法所对应的非隐私保护的原始算法；
[0037]调用所述原始算法处理所述第一隐私仿真数据集，得到第一处理结果；
[0038]调用所述原始算法处理所述多个相邻数据集中的每个相邻数据集，得到每个相邻数据集对应的第二处理结果；
[0039]选取与所述第一处理结果的距离值最大的第二处理结果所对应的相邻数据集，作为第二隐私仿真数据集。
[0040]可选的，所述距离值包括以下任意一项：
[0041]欧式距离值，余弦距离值，曼哈顿距离值，切比雪夫距离值以及汉明距离值。
[0042]可选的，所述装置还包括：
[0043]参考模块，用于获取参考函数；
[0044]显示模块，用于将所述参考函数的图像与所述权衡函数的图像显示于同一界面的
同一坐标系中。
[0045]根据第三方面，提供一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面中任一项所述的方法。
[0046]根据第四方面，提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述第一方面中任一项所述的方法。
[0047]本说明书的实施例提供的技术方案可以包括以下有益效果：
[0048]本说明书的实施例提供的隐私保护算法的验证方法和装置，通过获取第一隐私仿真数据集、第二隐私仿真数据集以及待验证的隐私保护算法，多次调用上述隐私保护算法处理第一隐私仿真数据集，得到多个第一结果，以及多次调用上述隐私保护算法处理第二隐私仿真数据集，得到多个第二结果。构建多个第一结果的累积分布函数，确定每个第二结果针对上述累积分布函数的p值，得到多个p值，并利用上述多个p值构建权衡函数，以利用该权衡函数的图像验证上述隐私保护算法的隐私保护性能。从而能够便捷且准确地对隐私保护算法的隐私保护性能做出决策。
[0049]应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本申请。
附图说明
[0050]为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例描述中所需要使用的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种隐私保护算法的验证方法，所述隐私保护算法为差分隐私类的随机算法；所述方法包括：获取互为相邻数据集的第一隐私仿真数据集和第二隐私仿真数据集；通过多次调用所述隐私保护算法，处理所述第一隐私仿真数据集，得到多个第一结果，以及处理所述第二隐私仿真数据集，得到多个第二结果；基于所述多个第一结果和所述多个第二结果，利用假设检验的方式得到表征所述隐私保护算法的隐私保护性能的权衡函数。2.根据权利要求1所述的方法，其中，所述获取互为相邻数据集的第一隐私仿真数据集和第二隐私仿真数据集，包括：获取由隐私仿真数据构建的第一隐私仿真数据集；获取所述第一隐私仿真数据集的多个相邻数据集；从所述多个相邻数据集中获取第二隐私仿真数据集。3.根据权利要求2所述的方法，其中，所述从所述多个相邻数据集中获取第二隐私仿真数据集，包括：获取所述隐私保护算法所对应的非隐私保护的原始算法；基于所述原始算法，从所述第一隐私仿真数据集的多个相邻数据集中选取第二隐私仿真数据集。4.根据权利要求3所述的方法，其中，所述基于所述原始算法，从所述第一隐私仿真数据集的多个相邻数据集中选取第二隐私仿真数据集，包括：调用所述原始算法处理所述第一隐私仿真数据集，得到第一处理结果；调用所述原始算法处理所述多个相邻数据集中的每个相邻数据集，得到每个相邻数据集对应的第二处理结果；选取与所述第一处理结果的距离值最大的第二处理结果所对应的相邻数据集，作为第二隐私仿真数据集。5.根据权利要求4所述的方法，其中，所述距离值包括以下任意一项：欧式距离值，余弦距离值，曼哈顿距离值，切比雪夫距离值以及汉明距离值。6.根据权利要求1所述的方法，其中，每次调用所述隐私保护算法采用的随机数状态不同。7.根据权利要求1所述的方法，其中，所述基于所述多个第一结果和所述多个第二结果，利用假设检验的方式得到表征所述隐私保护算法的隐私保护性能的权衡函数，包括：基于所述多个第一结果确定假设检验中零假设为真时...

【专利技术属性】
技术研发人员：吴若凡，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：