一种多方联合部署神经网络的方法、装置和设备制造方法及图纸

技术编号:43117628 阅读:19 留言:0更新日期:2024-10-26 09:55
本说明书一个或多个实施例提供一种多方联合部署神经网络的方法。该神经网络用于文本处理。多方中的一方获取神经网络的第一非线性层的输入数据分布,再确定拟合误差满足预设条件的分段多项式函数。其中,拟合误差是:以输入值在数据分布中的分布概率值为权重,各输入值通过第一非线性函数和分段多项函数的输出结果之差的加权累积值。最终根据分段多项式函数,确定第一非线性层在多方中的部署方式。通过上述方法,在进行函数的拟合时考虑到了输入数据分布的影响,从而通过拟合误差的控制,减少拟合的分段多项式函数的误差。进而可以在保证误差和相关技术的方法相差不大的情况下,降低最高次幂和分段段数的大小,减少神经网络的计算开销。

【技术实现步骤摘要】

本说明书一个或多个实施例涉及多方安全计算,尤其涉及一种多方联合部署神经网络的方法、装置和设备


技术介绍

1、通过神经网络来对文本进行处理,从而实现文本问答、文本翻译等已成为一种广泛应用的技术。随着神经网络技术的发展,在某些场景下,需要多方协同利用神经网络完成推理,以保证数据的安全和隐私性。

2、为了保护数据安全,现有技术中多个参与方一般利用隐私计算手段来完成神经网络的推理。隐私计算是一种在保证各个参与方的隐私数据安全的同时,实现多个参与方之间的协同计算的方法。常用的隐私计算方式包括,同态加密(homomorphic encryption,he)和多方安全计算mpc(secure multi-party computation)。不管是同态加密还是mpc,密态运算一般只支持乘法、加法等线性运算。然而,神经网络中一般存在大量的非线性函数运算,比如归一化指数函数(softmax)等。

3、因此,希望能有改进的方案,更好地在多方联合推理的场景下部署包括非线性函数的神经网络。


技术实现思路b>

1本文档来自技高网...

【技术保护点】

1.一种多方联合部署神经网络的方法,所述神经网络用于文本处理,所述方法通过多方中任意一方执行,包括:

2.根据权利要求1所述的方法,其中,所述获取文本数据集在所述神经网络的第一非线性层形成的数据分布概率,包括:

3.根据权利要求1所述的方法,其中,所述获取文本数据集在所述神经网络的第一非线性层形成的数据分布概率,包括:

4.根据权利要求1所述的方法,其中,所述确定拟合误差满足预设条件的分段多项式函数,包括:

5.根据权利要求4所述的方法,其中,所述N个分界点的初始值,根据所述输入数据分布确定。

6.根据权利要求4所述的方法,所述...

【技术特征摘要】

1.一种多方联合部署神经网络的方法,所述神经网络用于文本处理,所述方法通过多方中任意一方执行,包括:

2.根据权利要求1所述的方法,其中,所述获取文本数据集在所述神经网络的第一非线性层形成的数据分布概率,包括:

3.根据权利要求1所述的方法,其中,所述获取文本数据集在所述神经网络的第一非线性层形成的数据分布概率,包括:

4.根据权利要求1所述的方法,其中,所述确定拟合误差满足预设条件的分段多项式函数,包括:

5.根据权利要求4所述的方法,其中,所述n个分界点的初始值,根据所述输入数据分布确定。

6.根据权利要求4所述的方法,所述根据n个分界点的初始值,获取每个分界点的...

【专利技术属性】
技术研发人员:李正一谭晋
申请(专利权)人:蚂蚁科技集团股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1