基于安全洗牌和差分隐私的联邦学习模型安全防护方法及系统技术方案

本发明专利技术公开了一种基于安全洗牌和差分隐私的联邦学习模型安全防护方法及系统，联邦模型拥有者利用差分隐私技术对联邦学习的模型参数进行加噪声，生成带噪声的模型参数，之后利用用户授权密钥和安全洗牌算法加密模型参数，并将加密的联邦学习模型参数发送给用户；用户在本地使用联邦学习模型时，首先利用用户授权密钥和安全洗牌算法解密模型参数密文，得到带噪声的联邦学习模型，用户将自己的数据作为该模型的输入就能得到期望的输出结果。本发明专利技术不仅保护了原始模型的隐私性，可以有效保护原始模型的安全、保证用户能够得到可用的模型使用结果。使用结果。使用结果。

【技术实现步骤摘要】
基于安全洗牌和差分隐私的联邦学习模型安全防护方法及系统


[0001]本专利技术属于人工智能领域，具体涉及一种基于安全洗牌和差分隐私的联邦学习模型安全防护方法及系统。

技术介绍

[0002]联邦学习是一种正在被广泛研究和使用的人工智能技术，目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下，在多参与方或多计算结点之间开展高效率的机器学习。因此，联邦学习能够解决数据不出本地的机器学习任务，从而保护协同参与者的训练样本数据隐私，解决了数据孤岛问题。然而，目前联邦学习虽然解决了各个参与方的训练样本等数据隐私问题，但现有的相关差分隐私保护技术的使用都关注模型训练过程中样本隐私和参数隐私，未能够解决联邦学习模型发布本地使用的模型安全隐私。众所周知，邦学习模型是多方协同合作的结果，原始的联邦学习模型是模型拥有者的数据资产，保证联邦学习模型发布使用的隐私性仍是亟待解决的问题。因此，如何安全发布原始的联邦学习模型，以及保证用户对模型的可用性是一个重要的技术难点。

技术实现思路

[0003]专利技术目的：针对现有技术的不足，本专利技术一种基于安全洗牌和差分隐私的联邦学习模型安全防护方法及系统，能保护联邦学习模型拥有者的隐私、保证用户获得的联邦模型的可用性。
[0004]技术方案：本专利技术所述的一种基于安全洗牌和差分隐私的联邦学习模型安全防护方法，包括以下步骤：
[0005](1)基于差分隐私高斯机制对联邦学习的模型参数进行加噪声，生成带噪声的模型参数；
[0006](2)利用用户授权密钥和安全洗牌算法对差分隐私加噪后的模型参数进行加密，并将加密的联邦学习模型参数发送给用户；
[0007](3)利用用户授权密钥和安全洗牌算法解密模型参数密文，得到带噪声的联邦学习模型；
[0008](4)将用户的数据作为带噪声的联邦学习模型的输入，得到期望的输出结果。
[0009]进一步地，所述步骤(1)实现过程如下：
[0010]联邦学习模型Π的参数构成一个m
×
n的矩阵A
Π
，利用差分隐私中的高斯机制对矩阵A
Π
中的每个元素进行噪声处理，得到带噪声的联邦学习模型Π
′
的参数矩阵A
′
Π
：
[0011]A
′
Π
(i,j)＝A
Π
(i,j)+α
ꢀꢀꢀꢀꢀꢀ
(1)
[0012]其中，高斯机制提供松弛(ε,δ)
‑
差分隐私，噪声比例σ≥cΔs/ε，常数差分隐私，噪声比例σ≥cΔs/ε，常数ε∈(0,1)；敏感度高斯噪声分布α～N(0,σ2)满
足(ε,δ)
‑
差分隐私，α为矩阵中每一个数据所增加的噪声数值，敏感度代表了查询函数s针对相邻数据集的输出的最大不同。
[0013]进一步地，所述步骤(2)包括以下步骤：
[0014](21)读入m
×
n的带噪声的联邦学习模型参数矩阵A
Π
；
[0015](22)初始化逻辑映射控制参数s，d，f，g，其中，s为混沌控制参数，d和f为逻辑映射控制参数，分别对x
n
、y
n
进行映射，g为耦合项；并初始迭代映射iter＝200，给定密钥key＝{x，y}，其中x和y是混沌映射的两个初始值；
[0016](23)以密钥key为初始值，通过迭代映射m
×
n+iter对混沌序列值，舍弃iter对值，得到m
×
n对的混沌序列值，并将其分别存储于大小为m
×
n的一维数组P和Q中：
[0017][0018](24)对P和Q中的元素运行下面的安全洗牌算法1运算得到两个整数值的一维矩阵P
′
和Q
′
；
[0019](25)通过P
′
和Q
′
进行排序生成两个长度为m
×
n的一维伪随机序列矩阵P”和Q”，其元素取值为[0,m
×
n
‑
1]内不等的整数；
[0020](26)对于一维随机序列P”和Q”中的各元素P”(k)和Q”(k)进行下列变换，并将其映射为大小为m
×
n的二维置乱矩阵X、Y；
[0021][0022]其中，x(i,j)、y(i,j)分别为二维置乱矩阵X、Y的元素；
[0023](27)利用置乱矩阵X先对矩阵A
Π
进行置乱，得到临时模型参数置乱中间结果；再用Y对临时模型参数置乱中间结果进行位置置乱，得到最终的带噪声的联邦学习模型参数置乱密文。
[0024]进一步地，所述步骤(3)实现过程如下：
[0025](31)给定与加密过程相同的密钥key＝{x，y}，由密钥x，y生成置乱矩阵X、Y；
[0026](32)利用置乱矩阵Y先对带噪声的联邦学习模型参数置乱密文进行置乱，得到临时模型参数置乱中间结果，再用X对临时模型参数置乱中间结果进行位置置乱，得到带噪声的参数模型。
[0027]基于相同的专利技术构思，本专利技术还提出一种基于安全洗牌和差分隐私的联邦学习模型安全防护系统，包括参数处理模块、加密模块和解密模块；所述参数处理模块基于差分隐私高斯机制对联邦学习的模型参数进行加噪声，生成带噪声的模型参数；所述加密模块利用用户授权密钥和安全洗牌算法对差分隐私加噪后的模型参数进行加密，并将加密的联邦学习模型参数发送给用户；所述解密模块利用用户授权密钥和安全洗牌算法解密模型参数密文，得到带噪声的联邦学习模型。
[0028]进一步地，所述参数处理模块工作过程如下：
[0029]联邦学习模型Π的参数构成一个m
×
n的矩阵A
Π
，利用差分隐私中的高斯机制对矩阵A
Π
中的每个元素进行噪声处理，得到带噪声的联邦学习模型Π
′
的参数矩阵A
′
Π
：
[0030]A
′
Π
(i,j)＝A
Π
(i,j)+α
ꢀꢀꢀꢀꢀꢀꢀꢀ
(1)
[0031]其中，高斯机制提供松弛(ε,δ)
‑
差分隐私，噪声比例σ≥cΔs/ε，常数差分隐私，噪声比例σ≥cΔs/ε，常数ε∈(0,1)；敏感度高斯噪声分布α～N(0,σ2)满足(ε,δ)
‑
差分隐私，α为矩阵中每一个数据所增加的噪声数值，敏感度代表了查询函数s针对相邻数据集的输出的最大不同。
[0032]进一步地，所述加密模块工作过程如下：
[0033](S1)读入m
×
n的带噪声的联邦学习模型参数矩阵A
Π
；
[0034](S2)初始化逻辑映射控制参数s，d，f，g，其中，s为混沌控制参数本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于安全洗牌和差分隐私的联邦学习模型安全防护方法，其特征在于，包括以下步骤：(1)基于差分隐私高斯机制对联邦学习的模型参数进行加噪声，生成带噪声的模型参数；(2)利用用户授权密钥和安全洗牌算法对差分隐私加噪后的模型参数进行加密，并将加密的联邦学习模型参数发送给用户；(3)利用用户授权密钥和安全洗牌算法解密模型参数密文，得到带噪声的联邦学习模型；(4)将用户的数据作为带噪声的联邦学习模型的输入，得到期望的输出结果。2.根据权利要求1所述的基于安全洗牌和差分隐私的联邦学习模型安全防护方法，其特征在于，所述步骤(1)实现过程如下：联邦学习模型Π的参数构成一个m
×
n的矩阵A
Π
，利用差分隐私中的高斯机制对矩阵A
Π
中的每个元素进行噪声处理，得到带噪声的联邦学习模型Π
′
的参数矩阵A
′
Π
：A
′
Π
(i，j)＝A
Π
(i，j)+α
ꢀꢀꢀꢀꢀ
(1)其中，高斯机制提供松弛(ε，δ)
‑
差分隐私，噪声比例σ≥cΔs/ε，常数差分隐私，噪声比例σ≥cΔs/ε，常数敏感度高斯噪声分布α～N(0，σ2)满足(ε，δ)
‑
差分隐私，α为矩阵中每一个数据所增加的噪声数值，敏感度代表了查询函数s针对相邻数据集的输出的最大不同。3.根据权利要求1所述的基于安全洗牌和差分隐私的联邦学习模型安全防护方法，其特征在于，所述步骤(2)包括以下步骤：(21)读入m
×
n的带噪声的联邦学习模型参数矩阵A
Π
；(22)初始化逻辑映射控制参数s，d，f，g，其中，s为混沌控制参数，d和f为逻辑映射控制参数，分别对x
n
、y
n
进行映射，g为耦合项；并初始迭代映射iter＝200，给定密钥key＝{x，y}，其中x和y是混沌映射的两个初始值；(23)以密钥key为初始值，通过迭代映射m
×
n+iter对混沌序列值，舍弃iter对值，得到m
×
n对的混沌序列值，并将其分别存储于大小为m
×
n的一维数组P和Q中：(24)对P和Q中的元素运行下面的安全洗牌算法1运算得到两个整数值的一维矩阵P
′
和Q
′
；(25)通过P
′
和Q
′
进行排序生成两个长度为m
×
n的一维伪随机序列矩阵P
″
和Q
″
，其元素取值为[0，m
×
n
‑
1]内不等的整数；(26)对于一维随机序列P
″
和Q
″
中的各元素P
″
(k)和Q
″
(k)进行下列变换，并将其映射为大小为m
×
n的二维置乱矩阵X、Y；
其中，x(i，j)、y(i，j)分别为二维置乱矩阵X、Y的元素；(27)利用置乱矩阵X先对矩阵A
Π
进行置乱，得到临时模型参数置乱中间结果；再用Y对临时模型参数置乱中间结果进行位置置乱，得到最终的带噪声的联邦学习模型参数置乱密文。4.根据权利要求1所述的基于安全洗牌和差分隐私的联邦学习模型安全防护方法，其特征在于，所述步骤(3)实现过程如下：(31)给定与加密过程相同的密钥key＝{x，y}，由密钥x，y生成置乱矩阵X、Y；(32)利用置乱矩阵Y先对带噪声的联邦学习模型参数置乱密文进行置乱，得到临时模型参数置乱中间结果，再用X对临时模型参数置乱中间结果进行位置置乱，得到带噪...

【专利技术属性】
技术研发人员：粟勇，刘圣龙，江伊雯，刘文龙，
申请(专利权)人：江苏瑞中数据股份有限公司国网江苏省电力有限公司国家电网有限公司大数据中心，
类型：发明
国别省市：