基于BGW协议的隐私保护机器学习激活函数的运算方法技术

本发明专利技术属于网络空间安全领域，具体为一种基于BGW协议的隐私保护机器学习激活函数的运算方法。本发明专利技术将安全多方计算协议与机器学习激活函数结合，以提供安全高效的机器学习激活函数为目标，实现了基于BGW协议的机器学习激活函数。安全多方计算友好的机器学习激活函数可以是安全ReLU函数或安全Sigmoid函数。本发明专利技术可用于基于安全多方计算协议的机器学习模型或框架实现相关激活函数，而不会泄露中间过程信息。

【技术实现步骤摘要】
基于BGW协议的隐私保护机器学习激活函数的运算方法
本专利技术属于网络空间安全
，具体为一种基于BGW协议的隐私保护机器学习激活函数的运算方法。
技术介绍
机器学习已广泛应用于各自实际场景。比如，互联网公司收集海量用户行为数据训练更精确的推荐模型。医院收集健康数据生成诊断模型。金融企业使用历史交易记录训练更准确的欺诈模型。在机器学习中，数据规模对于模型准确率起着重要作用。然而，分布在多个数据源或个人中的数据不能简单合并。如GDPR之类与隐私问题相关的法规，企业保持竞争优势方面的考虑和数据主权相关的问题使得数据无法被公开共享。基于安全多方计算的隐私保护机器学习，允许不同主体在其联合数据上训练各自模型，而不会泄露除最终模型之外的任何信息。所有机器学习算法都可以表示为数据流图。数据流图由节点和边组成。数据流图中的每个节点代表一个运算符或矩阵形式的输入输出数据。节点通过有向边相连，这表示训练过程的数据流。运算符定义了在前向传播和反向传播中需要执行的操作，并被抽象为可在需要时使用的基础计算组件。当且仅当已经计算了指向该节点的所有节点本文档来自技高网...

【技术保护点】
1.一种基于BGW协议的隐私保护机器学习激活函数的运算方法，其特征在于，激活函数为安全ReLU函数，安全ReLU函数中的ReLU算子定义了前向传播阶段和反向传播阶段需要执行的操作；其中：/nReLU算子的前向传播计算y＝x*(x>0)，x表示输入矩阵，y表示输出矩阵，通过下面两个步骤进行计算：/n第一步，通过LTZ函数判断秘密共享矩阵[a.forward]，是否大于0，[u]＝1-LTZ([a.forward],k)，[u]是一个秘密共享数，若[a.forward]大于等于0，则[u]为1，否则[u]为0，k表示带符号整数有效位数，a表示输入节点，forward代表节点在正向传播中的结果...

【技术特征摘要】
1.一种基于BGW协议的隐私保护机器学习激活函数的运算方法，其特征在于，激活函数为安全ReLU函数，安全ReLU函数中的ReLU算子定义了前向传播阶段和反向传播阶段需要执行的操作；其中：
ReLU算子的前向传播计算y＝x*(x>0)，x表示输入矩阵，y表示输出矩阵，通过下面两个步骤进行计算：
第一步，通过LTZ函数判断秘密共享矩阵[a.forward]，是否大于0，[u]＝1-LTZ([a.forward],k)，[u]是一个秘密共享数，若[a.forward]大于等于0，则[u]为1，否则[u]为0，k表示带符号整数有效位数，a表示输入节点，forward代表节点在正向传播中的结果；
第二步，计算[a.forward]*[u]得到ReLU(a):a>0？a:0函数的值，即[c.forward]；
在前向传播中ReLU算子需要4回合交互，其中第一步中LTZ函数需要3回合交互，第二步中乘法需要1回合交互；
ReLU算子的反向传播计算x′＝y′*(x>0)，转化为计算[a.grad]＝[c.grad]*([a.forward]>0)，c表示输出节点，grad代表节点在反向传播中的结果，由于判断[a.forward]的正负的工作在前向传播中已经完成，通过缓存判断结果，因此只需要1回合交互。


2.一种基于BGW协议的隐私保护机器学习激活函数的运算方法，其特征在于，激活函数为安全Sigmoid函数，安全Sigmoid函数中的Sigmoid算子定义了前...

【专利技术属性】
技术研发人员：韩伟力，汤定一，
申请(专利权)人：复旦大学，
类型：发明
国别省市：上海;31