【技术实现步骤摘要】
本专利技术属于机器学习即服务的，具体涉及一种基于函数秘密共享的安全二值神经网络推理系统。
技术介绍
1、机器学习即服务是一种提供机器学习模型和算法作为服务的方法，其允许用户通过简单的接口或api调用，以低成本和低复杂性的方式访问和使用强大的机器学习工具和功能，获得机器学习模型的推理能力。然而，在提供服务的过程会泄露机器学习模型和用户的待推理数据，因此亟需保证推理结果的正确和保护机器学习模型和用户的待推理数据的隐私。
2、在机器学习即服务的场景中，安全二值神经网络推理支持用户基于待推理数据使用服务器端训练好的二值神经网络模型得到推理结果，在此过程中不泄露用户的待推理数据和服务器端模型。目前，在安全二值神经网络推理的实现方案中，基于密码学的方法是十分重要的一类方法，根据使用的方法主要分为以下几类：
3、（1）同态加密方法：数据拥有方首先对数据进行加密得到密文数据，然后直接基于密文数据进行二值神经网络推理，并保证得到的结果经过解密后与在明文下的计算结果一致。
4、（2）混淆电路方法：数据拥有方将自己的数据输入到一个由混淆电路技术实现的安全计算协议中，从而来执行神经网络推理计算并得到推理结果，安全计算协议保证数据的隐私性和结果的正确性。
5、（3）混合协议方法：数据拥有方将隐私数据输入到秘密共享、混淆电路和同态加密等组成的安全二值神经网络推理协议中，得到推理结果，能够保证待推理数据和神经网络模型的隐私性和推理结果的正确性。
6、上述现有技术存在以下缺点：
7、（1）
8、（2）混淆电路方法：混淆电路方法中数据拥有方的总通信量大，混淆电路方法的在线阶段需要大量交互混淆表等信息，从而使得总通信代价很大，计算效率较低。
9、（3）混合协议方法：混合协议方法中能够利用各类协议的优势实现神经网络推理高效计算，但在协议实现过程中需要额外进行状态转换从而会引入额外计算开销。
技术实现思路
1、本专利技术的主要目的在于克服现有技术的缺点与不足，提供一种基于函数秘密共享的安全二值神经网络推理系统，针对神经网络推理中存在的隐私问题和部署挑战，基于加性秘密共享和函数秘密共享设计安全两方计算框架，选择易于部署的二值神经网络模型，实现高效安全二值神经网络推理系统。
2、为了达到上述目的，本专利技术采用以下技术方案：
3、本专利技术的一个方面，提供了一种基于函数秘密共享的安全二值神经网络推理系统，包括输入层、若干个隐含层以及输出层，客户端 c持有的隐私输入数据 x和服务器端 s持有的隐私模型参数 w，经输入层、隐含层和输出层处理后得到推理结果 y；
4、所述输入层、若干个隐含层以及隐含层根据实际神经网络结构设置若干个安全全连接运算单元、安全卷积运算单元、安全批量归一化运算单元、安全二值激活函数运算单元以及安全最大池化运算单元；
5、所述安全全连接运算单元和安全卷积运算单元配置为：接收待处理信号，对待处理信号进行安全全连接运算或安全卷积运算，即安全矩阵运算，以得到安全全连接运算单元或安全卷积运算单元结果；所述安全矩阵运算具体为：给定二值化的隐私模型参数和隐私输入数据，其中 w b是 w的0-1编码，即将 w的元素+1和-1分别编码为1和0；表示运算所处的环，上标 n表示对应值的比特位宽，下同； d1, d2, d3表示矩阵的维度， d1× d2表示 d1行 d2列矩阵；安全矩阵运算计算；
6、所述安全批量归一化运算单元配置为：接收待处理信号，对待处理信号进行安全批量归一化运算以得到安全批量归一化运算结果；所述安全批量归一化运算具体为：给定输入份额和批量归一化参数 γ和 β，其有，bn表示安全批量归一化运算；
7、所述安全二值激活函数运算单元配置为：接收待处理信号，对待处理信号进行安全二值激活函数运算以得到安全二值激活函数运算结果；所述安全二值激活函数运算具体为：给定输入份额，如果 x≥0则输出+1，否则输出-1，ba表示安全二值激活函数运算；
8、所述安全最大池化运算单元配置为：接收待处理信号，对待处理信号进行安全最大池化运算以得到安全最大池化运算结果；所述安全最大池化运算具体为：将输入矩阵的所有元素进行0-1编码，针对每一个窗口进行求和并加上-1，再进行安全二值激活函数运算，获得安全最大池化运算结果。
9、作为优选的技术方案，隐私模型参数 w包括各层神经网络的隐私模型参数，即 w= w( l), l=1,2,…, l， l为神经网络层数， l为神经网络总层数；所述输入层为第1层，其输入为 x(0)= x和输入层隐私模型参数 w(1)，其输出为和，其中上标 n2表示对应值的比特位宽，下同；所述隐含层为第2到 l-1层，其输入为数据秘密份额、和隐含层隐私模型参数 w( l’)， l’= 2,…, l-1为隐含层层数，其输出为和；所述输出层为第 l层，其输入为数据秘密份额、和输出层隐私模型参数 w( l)，其输出为和，其中满足。
10、作为优选的技术方案，所述输入层包括依次连接的安全卷积运算单元、安全批量归一化运算单元以及安全二值激活函数运算单元；所述隐含层包括依次连接的安全全连接运算单元、安全批量归一化运算单元以及安全二值激活函数运算单元；所述输出层包括依次连接的安全全连接运算单元以及安全批量归一化运算单元。
11本文档来自技高网...
【技术保护点】
1.基于函数秘密共享的安全二值神经网络推理系统，包括输入层、若干个隐含层以及输出层，客户端C持有的隐私输入数据X和服务器端S持有的隐私模型参数W，经输入层、隐含层和输出层处理后得到推理结果Y，其特征在于：
2.根据权利要求1所述的基于函数秘密共享的安全二值神经网络推理系统，其特征在于，隐私模型参数W包括各层神经网络的隐私模型参数，即W=W(l),l=1,2,…,L，l为神经网络层数，L为神经网络总层数；所述输入层为第1层，其输入为X(0)=X和输入层隐私模型参数W(1)，其输出为和，其中上标n2表示对应值的比特位宽，下同；所述隐含层为第2到L-1层，其输入为数据秘密份额、和隐含层隐私模型参数W(l’)，l’=2,…, L-1为隐含层层数，其输出为和；所述输出层为第L层，其输入为数据秘密份额、和输出层隐私模型参数W(L)，其输出为和，其中满足。
3.根据权利要求1所述的基于函数秘密共享的安全二值神经网络推理系统，其特征在于，所述输入层包括依次连接的安全卷积运算单元、安全批量归一化运算单元以及安全二值激活函数运算单元；所述隐含层包括依次连接的安全全连接运算单元
4.基于函数秘密共享的安全二值神经网络推理方法，其特征在于，包括以下步骤：
5.根据权利要求4所述的基于函数秘密共享的安全二值神经网络推理方法，其特征在于，安全矩阵运算MatMul的具体实现方案如下，分为离线阶段和在线阶段：
6.根据权利要求4所述的基于函数秘密共享的安全二值神经网络推理方法，其特征在于，二值激活层在批量归一化层后，因此将二值激活层和批量归一化层同时计算，即定义安全激活函数运算BNBA，由安全批量归一化运算BN和安全二值激活函数运算BA构成；
7.根据权利要求4所述的基于函数秘密共享的安全二值神经网络推理方法，其特征在于，安全二值激活函数运算BA中，客户端C和服务器端S分别持有秘密份额，其计算得到秘密份额满足，具体计算步骤如下：
...【技术特征摘要】
1.基于函数秘密共享的安全二值神经网络推理系统，包括输入层、若干个隐含层以及输出层，客户端c持有的隐私输入数据x和服务器端s持有的隐私模型参数w，经输入层、隐含层和输出层处理后得到推理结果y，其特征在于：
2.根据权利要求1所述的基于函数秘密共享的安全二值神经网络推理系统，其特征在于，隐私模型参数w包括各层神经网络的隐私模型参数，即w=w(l),l=1,2,…,l，l为神经网络层数，l为神经网络总层数；所述输入层为第1层，其输入为x(0)=x和输入层隐私模型参数w(1)，其输出为和，其中上标n2表示对应值的比特位宽，下同；所述隐含层为第2到l-1层，其输入为数据秘密份额、和隐含层隐私模型参数w(l’)，l’=2,…, l-1为隐含层层数，其输出为和；所述输出层为第l层，其输入为数据秘密份额、和输出层隐私模型参数w(l)，其输出为和，其中满足。
3.根据权利要求1所述的基于函数秘密共享的安全二值神经网络推理系统，其特征在于，所述输入层包括依次连接的安全卷积运算单元、安全批量归...
【专利技术属性】
技术研发人员：蒋琳，杨鹏，庄杰航，陈倩，王轩，
申请(专利权)人：哈尔滨工业大学深圳哈尔滨工业大学深圳科技创新研究院，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。