The invention belongs to the field of machine learning for privacy protection. In order to propose a non-interactive privacy protection neural network method, the invention provides a non-interactive privacy protection neural network prediction method. The steps are as follows: Firstly, the owner SNN of the neural network model decomposes the neural network model NN into two sub-models NN0 and NN1, which satisfies the requirement of NN=NN0+NN1. Specifically, it refers to the network model. The weight matrix and bias matrix satisfy the following relationships: W=W0+W1, B=B0+B1, and then the user sends the encrypted input data Enc(x) to two servers S0 and S1 during the query phase; cloud server S0 and S1 are used to calculate the activation function in ciphertext based on the obtained neural network model, and the approximate method is used to calculate the activation function for a single neuron. By generalizing the whole neural network, the predictive value of neural network based on input data X is obtained. The invention is mainly applied to network data communication and processing occasions.
【技术实现步骤摘要】
非交互式的保护隐私神经网络预测方法
本专利技术属于保护隐私的机器学习领域,公开了一种外包计算模型下的非交互保护隐私神经网络预测方法,具体来讲,涉及在不可勾结双服务器外包模型下,实现神经网络模型隐私以及数据隐私的预测方法。
技术介绍
神经网络属于一种特殊的机器学习模型,由多个处理层组成,用于学习多个抽象层次的数据表示。模型从原始数据开始,每个级别可以通过非线性变换将先前级别的表示转换为更抽象级别的表示。利用足够数量的这种变换的组成,可以学习复杂的功能。通常,机器学习方法包含两阶段范例:(1)训练阶段,其中基于大量数据学习诸如诊断模型或欺诈检测模型的模型,以及(2)预测阶段,其中给出一些新数据,该模型用于预测。换句话说,机器学习方法在训练阶段期间分析过去数据的模式,并在预测阶段预测新查询的结果。随着大数据技术以及不断增加的计算能力,机器学习的进步提高了人工智能任务计算水平,使得机器学习在诸如复杂的棋盘游戏,图像分类,面部识别和疾病诊断等许多应用中的优越性能而获得了广泛的普及。数据所有者可以在从训练数据获得机器学习模型之后向客户端提供预测服务,称为机器学习即服务。例如, ...
【技术保护点】
1.一种非交互式的保护隐私神经网络预测方法,其特征是,步骤如下:首先,神经网络模型的拥有者
【技术特征摘要】
1.一种非交互式的保护隐私神经网络预测方法,其特征是,步骤如下:首先,神经网络模型的拥有者将神经网络模型NN分解为两个子模型NN0,NN1,满足NN=NN0+NN1,具体来讲,是指网络模型中的权重矩阵以及偏置矩阵满足以下关系:W=W0+W1,B=B0+B1,然后,分别将NN0,NN1发送给服务器S0、云服务器S1,B0,B1是利用加法分享拆分得出的两个偏置矩阵,W0,W1是利用加法分享拆分得出的两个权重矩阵,W={w1,…}是神经网络每一层的权重参数矩阵,B={b1,…}是神经网络每一层的偏置矩阵;●在询问阶段,由用户将加密后的输入数据Enc(x)发送给两个服务器S0、S1,同时,用户将其私钥sk分解为sk0,sk1两个部分,满足sk=sk0+sk1,用户将sk0,sk1分别发送给云服务器●由于加密算法为加法同态加密,利用云服务器根据获取到神经网络模型,实现密文上的运算,采用近似的方法来计算激活函数;完成了单个神经元的所有相关计算后,而对单个神经元的计算方法在整个神经网络中进行推广,便得出神经网络基于输入数据x的预测值NN(x)。2.如权利要求1所述的非交互式的保护隐私神经网络预测方法,其特征是,采用近似的方法来计算激活函数,具体对于sigmoid函数,转化方法如下:如上式如示,将非线性激活函数转化为分段的线性函数;具体地:●Setup(1k,NN),运行该算法,输出神经网络子模型NN0=(W0,B0),以及NN1=(W1,B1)。其中,权重矩阵和偏置矩阵满足以下关系:为安全素数,其中mod表示取模运算,NN0,NN1分别发送给服务器同时,产生compare()算法中用...
【专利技术属性】
技术研发人员:马旭,李思,王来花,
申请(专利权)人:曲阜师范大学,
类型:发明
国别省市:山东,37
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。