一种联邦迁移学习算法制造技术

本发明专利技术公开了包括如下步骤：S1、B生成公私钥对，将公钥发给A；S2、双方初始化网络；S3、双方通过各自的网络进行映射Net(x

【技术实现步骤摘要】
一种联邦迁移学习算法


[0001]本专利技术属于联邦迁移学习框架领域，更具体地说，尤其涉及一种联邦迁移学习算法。

技术介绍

[0002]根据数据在组织之间的分布情况，可以划分为三种联邦模式：横向联邦学习，纵向联邦学习，联邦迁移学习。其中，联邦迁移学习相较于前两种是一种较新的联邦学习方案，适用于不同组织间持有的数据样本和特征重合都较少，但数据间蕴含某种知识关联的场景；
[0003]Liu Y.等人提出了一种联邦迁移学习框架，该框架针对两方联邦迁移学习的场景提供了基于同态加密和秘密共享的两种方案。其中，基于同态加密的方案在参与方双方都使用了同态加密技术来保证数据安全，这使得双方的运算都在同态加密下进行，速度较慢。并且，由于该方案使用的是半同态加密技术，不得不将运算中涉及的同态加密状态下的向量积运算转换为数乘运算，这种转换使得算法从原来需要计算和传输向量变为需要计算和传输该向量对应的中间结果矩阵，通信量和计算量很大。

技术实现思路

[0004]本专利技术的目的是为了解决现有技术中存在的缺点，将原学习框架中的双方采用同态加密保护本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种联邦迁移学习算法，其特征在于：包括A方和B方，所述A方的数据保护方式改为添加噪声，B方使用同态加密，需要计算的损失和偏导可采用如下公式表示：添加噪声，B方使用同态加密，需要计算的损失和偏导可采用如下公式表示：添加噪声，B方使用同态加密，需要计算的损失和偏导可采用如下公式表示：在(4
‑
6)式中，所有的同态加密算子均由B的公钥产生，需要A、B加噪协同计算；其中，A可计算的与相关的部分：相关的部分：B需要计算后发送给A的部分：B需要计算后发送给A的部分：B需要计算后发送给A的部分：B需要计算后发送给A的部分：
另外，中间变量的定义如下：另外，中间变量的定义如下：2.根据权利要求1所述的一种联邦迁移学习算法，其特征在于：包括如下步骤：S1、B生成公私钥对，将公钥发给A；S2、双方初始化网络；S3、双方通过各自的网络进行映射Net(x
i
)
→
u
i
；B计算并加密发给A；A计算和Φ
A
；S4、对于每个i∈N
c
，A对Φ
A
乘上一个噪声再乘上后得到发给B；A利用和根据式(5)计算得到发给B；S5、B解密得到由此计算并发给A；B解密并加上得到自己的梯度S6、A收到后乘以去掉噪声，得到然后结合根据式(4)、(6)计算[[L]]和将加上噪声后得到将[[L]]、一起发给B；
S7、B解密[[L]]、得到L、并回传给A；S8、A对去掉噪声并对其中i∈N
c
的加上得到A、B分别利用梯度更新自己的模型；S9、A使用L判断是否达到终止条件，若达到则终止训练，否则回到第3步开始下一轮迭代。3.根据权利要求2所述的一种联邦迁移学习算法，其特征在于：在一轮交互中，A、B双方分别可获得的明文状态下的信息如下：A:B:A可由此构造方程：A可由此构造方程：其中，和是A可计算的量，是标量，是d维向量，是d维向量，将||Θ
B
||2看做一个未知量，则方程(7)和(8)有至少N
c
d+1个未知数(N
AB
≥N
c
)，当N
c
>1时A无法解出B的信息，N
c
＝1时A可能解出u
B
，由于B方发送给A方的数据仍然使用同态加密，B方的安全性和原框架中的一致，其安全性由方程个数少于未知量个数保证。4.根据权利要求2所述的一种联邦迁移学习算法，其特征在于：B可构造的方程有：4.根据权利要求2所述的一种联邦迁移学习...

【专利技术属性】
技术研发人员：魏明，阮安邦，
申请(专利权)人：北京八分量信息科技有限公司，
类型：发明
国别省市：