终端侧的隐私风险评估方法及装置制造方法及图纸

本公开是关于一种终端侧的隐私风险评估方法及装置

【技术实现步骤摘要】
终端侧的隐私风险评估方法及装置、介质、电子设备


[0001]本公开实施例涉及联邦机器学习
，具体而言，涉及一种终端侧的隐私风险评估方法
、
终端侧的隐私风险评估装置
、
计算机可读存储介质以及电子设备
。

技术介绍

[0002]现有的联邦机器学习中，攻击者可以从训练完成的模型中获取终端训练数据集的统计信息，进一步获取终端用户的隐私数据，进而使得终端用户的隐私数据的安全性较低
。
[0003]需要说明的是，在上述
技术介绍
部分专利技术的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息
。

技术实现思路

[0004]本公开的目的在于提供一种终端侧的隐私风险评估方法
、
终端侧的隐私风险评估装置
、
计算机可读存储介质以及电子设备，进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的终端用户的隐私数据的安全性较低的问题
。
[0005]根据本公开的一个方面，提供一种终端侧的隐私风险评估方法，配置于联邦机器学习中的终端，所述终端侧的隐私风险评估方法包括：
[0006]获取所述终端在所述联邦机器学习中所面临的初始环境数据，并对所述初始环境数据进行分析，得到终端的隐私风险列表；
[0007]根据所述终端的隐私风险列表对终端用户面临的隐私风险进行分析，得到与终端用户隐私信息被泄露的风险关联的第一分析结果以及与终端用户的隐私偏好关联的第二分析结果；
[0008]根据所述第一分析结果以及第二分析结果评估所述终端的隐私风险等级
。
[0009]在本公开的一种示例性实施例中，对所述初始环境数据进行分析，得到终端的隐私风险列表，包括：
[0010]对所述初始环境数据的类别进行识别，得到类别识别结果，并根据所述类别识别结果判断终端用户的隐私数据被泄露后，是否存在风险；
[0011]若存在风险，则将该初始环境数据作为被识别的风险数据，并根据所述被识别的风险数据生成所述终端的隐私风险列表
。
[0012]在本公开的一种示例性实施例中，所述初始环境数据包括所述终端在进行所述联邦机器学习时所采用的算法信息
、
所述终端参与所述联邦机器学习所用到的数据集
、
所述终端参与所述联邦机器学习的待训练模型的模型信息
、
所述终端参与所述联邦机器学习的信道环境信息以及终端本地已有的保护措施中的多种；
[0013]所述数据集包括终端用户的身份识别信息和
/
或用户消费信息；
[0014]所述信道环境信息包括威胁模型类型；
[0015]所述被识别的风险数据包括但不限于联邦机器学习的算法
、
参与机器学习的用户数据
、
联邦学习中的威胁模型
、
终端本地隐私保护技术
、
模型梯度更新参数中的多种；所述
参与机器学习的用户数据包括身份识别信息以及用户消费信息
。
[0016]在本公开的一种示例性实施例中，根据所述终端的隐私风险列表对终端用户面临的隐私风险进行分析，得到与终端用户隐私信息被泄露的风险关联的第一分析结果以及与终端用户的隐私偏好关联的第二分析结果，包括：
[0017]根据所述终端的隐私风险列表对所述被识别的风险数据被泄露的风险进行定性分析，得到与终端用户隐私信息被泄露的风险关联的第一定性分析结果，并根据所述终端的隐私风险列表对所述终端用户的隐私偏好进行定性分析，得到第二定性分析结果；和
/
或
[0018]根据所述终端的隐私风险列表对所述被识别的风险数据被泄露的风险进行定量分析，得到与终端用户隐私信息被泄露的风险关联的第一定量分析结果，并根据终端的隐私风险列表对所述终端用户的隐私偏好进行定量分析，得到与终端用户的隐私偏好关联的第二定量分析结果
。
[0019]在本公开的一种示例性实施例中，根据所述终端的隐私风险列表对所述被识别的风险数据被泄露的风险进行定量分析，得到与终端用户隐私信息被泄露的风险关联的第一定量分析结果，包括：
[0020]计算所述终端的隐私风险列表中包括的用户身份识别信息
、
用户消费信息以及模型梯度更新参数发生数据泄露后的第一影响程度
、
第二影响程度以及第三影响程度；
[0021]计算所述用户身份识别信息
、
用户消费信息
、
模型梯度更新参数以及第一模型迭代次数发生数据泄露的第一泄露概率
、
第二泄露概率以及第三泄露概率；
[0022]根据所述第一影响程度
、
第二影响程度以及第三影响程度，计算所述目标数据被泄露的目标影响程度值，并根据第一泄露概率
、
第二泄露概率以及第三泄露概率，计算目标数据被泄露的目标概率值；
[0023]根据所述目标影响程度值以及目标概率值，得到与终端用户隐私信息被泄露的风险关联的第一定量分析结果
。
[0024]在本公开的一种示例性实施例中，计算所述终端的隐私风险列表中包括的用户身份识别信息
、
用户消费信息以及模型梯度更新参数发生数据泄露后的第一影响程度
、
第二影响程度以及第三影响程度，包括：
[0025]根据参与联邦机器学习的用户身份识别信息中包括的第一原始特征维度以及在联邦机器学习中需要被服务器获取的第一目标特征维度，计算所述用户身份识别信息的第一泄露量；
[0026]根据参与联邦机器学习的用户消费信息中包括的第二原始特征维度以及在联邦机器学习中需要被服务器获取的第二目标特征维度，计算所述用户消费信息的第二泄露量；
[0027]根据参与联邦机器学习中设置于终端本地的模型梯度更新参数的第一参数数量以及设置于服务器端的模型梯度更新参数的第二参数数量，计算所述模型梯度更新参数的第三泄漏量；
[0028]根据所述第一泄漏量
、
第二泄露量
、
第三泄漏量以及所述用户身份识别信息
、
用户消费信息以及模型梯度更新参数所具有的第一权重值
、
第二权重值以及第三权重值，计算所述用户身份识别信息
、
用户消费信息以及模型梯度更新参数发生数据泄露后的第一影响程度
、
第二影响程度以及第三影响程度
。
[0029]在本公开的一种示例性实施例中，计算所述用户身份识别信息
、
用户消费信息以及模型梯度更新参数发生数据泄露的第一泄露概率
、
第二泄露概率以及第三泄露概率，包括：
[0030]根据所述联邦机器学习中的威胁模型或服务器的可信程度
、
所述终端与所述服务器之间的通信信道的安全程度
、
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种终端侧的隐私风险评估方法，其特征在于，配置于联邦机器学习中的终端，所述终端侧的隐私风险评估方法包括：获取所述终端在所述联邦机器学习中所面临的初始环境数据，并对所述初始环境数据进行分析，得到终端的隐私风险列表；根据所述终端的隐私风险列表对终端面临的隐私风险进行分析，得到与终端用户隐私信息被泄露的风险关联的第一分析结果以及与终端用户的隐私偏好关联的第二分析结果；根据所述第一分析结果以及第二分析结果评估所述终端的隐私风险等级
。2.
根据权利要求1所述的终端侧的隐私风险评估方法，其特征在于，对所述初始环境数据进行分析，得到终端的隐私风险列表，包括：对所述初始环境数据的类别进行识别，得到类别识别结果，并根据所述类别识别结果判断终端用户的隐私数据被泄露后，是否存在风险；若存在风险，则将该初始环境数据作为被识别的风险数据，并根据所述被识别的风险数据生成所述终端的隐私风险列表
。3.
根据权利要求1或2所述的终端侧的隐私风险评估方法，其特征在于，所述初始环境数据包括所述终端在进行所述联邦机器学习时所采用的算法信息
、
所述终端参与所述联邦机器学习所用到的数据集
、
所述终端参与所述联邦机器学习的待训练模型的模型信息
、
所述终端参与所述联邦机器学习的信道环境信息以及终端本地已有的保护措施中的多种；所述数据集包括终端用户的身份识别信息和
/
或用户消费信息；所述信道环境信息包括威胁模型类型；所述被识别的风险数据包括但不限于联邦机器学习的算法
、
参与机器学习的用户数据
、
联邦学习中的威胁模型
、
终端本地隐私保护技术
、
模型梯度更新参数中的多种；所述参与机器学习的用户数据包括身份识别信息以及用户消费信息
。4.
根据权利要求3所述的终端侧的隐私风险评估方法，其特征在于，根据所述终端的隐私风险列表对终端用户面临的隐私风险进行分析，得到与终端用户隐私信息被泄露的风险关联的第一分析结果以及与终端用户的隐私偏好关联的第二分析结果，包括：根据所述终端的隐私风险列表对所述被识别的风险数据被泄露的风险进行定性分析，得到与终端用户隐私信息被泄露的风险关联的第一定性分析结果，并根据所述终端的隐私风险列表对所述终端用户的隐私偏好进行定性分析，得到第二定性分析结果；和
/
或根据所述终端的隐私风险列表对所述被识别的风险数据被泄露的风险进行定量分析，得到与终端用户隐私信息被泄露的风险关联的第一定量分析结果，并根据终端的隐私风险列表对所述终端用户的隐私偏好进行定量分析，得到与终端用户的隐私偏好关联的第二定量分析结果
。5.
根据权利要求4所述的终端侧的隐私风险评估方法，其特征在于，根据所述终端的隐私风险列表对所述被识别的风险数据被泄露的风险进行定量分析，得到与终端用户隐私信息被泄露的风险关联的第一定量分析结果，包括：计算所述终端的隐私风险列表中包括的用户身份识别信息
、
用户消费信息以及模型梯度更新参数发生数据泄露后的第一影响程度
、
第二影响程度以及第三影响程度；计算所述用户身份识别信息
、
用户消费信息
、
模型梯度更新参数以及第一模型迭代次数发生数据泄露的第一泄露概率
、
第二泄露概率以及第三泄露概率；
根据所述第一影响程度
、
第二影响程度以及第三影响程度，计算所述目标数据被泄露的目标影响程度值，并根据第一泄露概率
、
第二泄露概率以及第三泄露概率，计算目标数据被泄露的目标概率值；根据所述目标影响程度值以及目标概率值，得到与终端用户隐私信息被泄露的风险关联的第一定量分析结果
。6.
根据权利要求5所述的终端侧的隐私风险评估方法，其特征在于，计算所述终端的隐私风险列表中包括的用户身份识别信息
、
用户消费信息以及模型梯度更新参数发生数据泄露后的第一影响程度
、
第二影响程度以及第三影响程度，包括：根据参与联邦机器学习的用户身份识别信息中包括的第一原始特征维度以及在联邦机器学习中需要被服务器获取的第一目标特征维度，计算所述用户身份识别信息的第一泄露量；根据参与联邦机器学习的用户消费信息中包括的第二原始特征维度以及在联邦机器学习中需要被服务器获取的第二目标特征维度，计算所述用户消费信息的第二泄露量；根据参与联邦机器学习中设置于终端本地的模型梯度更新参数的第一参数数量以及设置于服务器端的模型梯度更新参数的第二参数数量，计算所述模型梯度更新参数的第三泄漏量；根据所述第一泄漏量
、
第二泄露量
、
第三泄漏量以及所述用户身份识别信息
、
用户消费信息以及模型梯度更新参数所具有的第一权重值
、
第二权重值以及第三权重值，计算所述用户身份识别信息
、
用户消费信息以及模型梯度更新参数发生数据泄露后的第一影响程度
、
第二影响程度以及第三影响程度
。7.
根据权利要求5所述的终端侧的隐私风险评估方法，其特征在于，计算所述用户身份识别信息
、
用户消费信息以及模...

【专利技术属性】
技术研发人员：李慧芳，潘碧莹，庞涛，
申请(专利权)人：中国电信股份有限公司，
类型：发明
国别省市：