基于秘密共享的训练方法、装置、电子设备及存储介质制造方法及图纸

本说明书提出了一种基于秘密共享的训练方法、装置、电子设备及存储介质，上述方法通过对训练参数进行定点数编码，对编码后的训练参数进行训练，并在训练过程中通过一次秘密共享进行定点数截取，以完成一轮训练，并更新训练参数，以进行下一轮训练，由此可以实现大规模数据的训练，避免由同态加密及定点数编码带来的数据溢出问题，并减少训练过程中数据的通信量，提高模型的训练效率，并且该秘密共享的训练方法可以保护数据的隐私。

Training method, device, electronic equipment and storage medium based on secret sharing

【技术实现步骤摘要】
基于秘密共享的训练方法、装置、电子设备及存储介质
本说明书涉及人工智能
，尤其涉及一种基于秘密共享的训练方法、装置、电子设备及存储介质。
技术介绍
人工智能（ArtificialIntelligence；以下简称：AI），是目前研究和开发用于模拟、延伸以及扩展人类智能的一门新兴科学技术。其中，AI的主要研究目标是使机器能够胜任一些通常需要人类智能才能完成的复杂工作；在实践应用中，通常是构建一个模型，然后通过样本数据对该模型进行反复训练，直到该模型达到期望目标。
技术实现思路
本说明书实施例提供了一种基于秘密共享的训练方法、装置、电子设备及存储介质，通过对训练参数进行定点数编码，对编码后的训练参数进行训练，并在训练过程中通过一次秘密共享进行定点数截取，以完成一轮训练，并更新训练参数，以进行下一轮训练，由此可以实现大规模数据的训练，避免由同态加密及定点数编码带来的数据溢出问题，并减少训练过程中数据的通信量，提高模型的训练效率，并且该秘密共享的训练方法可以保护数据的隐私。第一方面，本说明书实施例提供一种基于秘密共享的本文档来自技高网...

【技术保护点】
1.一种基于秘密共享的训练方法，包括：/n获取第一训练参数，根据第一目标倍率对所述第一训练参数进行定点数编码，得到第一编码训练参数，并根据接收端预置公钥对所述第一编码训练参数进行同态加密，得到第一加密编码训练参数；/n获取样本数据，根据第二目标倍率对所述样本数据进行定点数编码，得到编码样本数据，对所述第一加密编码训练参数及所述编码样本数据进行训练，得到第一加密编码预测结果；/n对所述第一加密编码预测结果进行秘密共享，得到第一编码预测结果，根据所述第一目标倍率对所述第一编码预测结果进行定点数截取，得到第二编码预测结果；/n根据所述第二编码预测结果及目标标签数据得到第一编码差错，并根据所述接收端预...

【技术特征摘要】
1.一种基于秘密共享的训练方法，包括：
获取第一训练参数，根据第一目标倍率对所述第一训练参数进行定点数编码，得到第一编码训练参数，并根据接收端预置公钥对所述第一编码训练参数进行同态加密，得到第一加密编码训练参数；
获取样本数据，根据第二目标倍率对所述样本数据进行定点数编码，得到编码样本数据，对所述第一加密编码训练参数及所述编码样本数据进行训练，得到第一加密编码预测结果；
对所述第一加密编码预测结果进行秘密共享，得到第一编码预测结果，根据所述第一目标倍率对所述第一编码预测结果进行定点数截取，得到第二编码预测结果；
根据所述第二编码预测结果及目标标签数据得到第一编码差错，并根据所述接收端预置公钥对所述第一编码差错进行同态加密，得到第一加密编码差错；
根据所述第一加密编码差错对所述第一加密编码训练参数更新后进行迭代训练，得到训练后的第二加密编码训练参数，并根据所述第二加密编码训练参数得到第二训练参数，以完成对所述第一训练参数的训练。


2.根据权利要求1所述的方法，所述对所述第一加密编码预测结果进行秘密共享，得到第一编码预测结果，根据所述第一目标倍率对所述第一编码预测结果进行定点数截取，得到第二编码预测结果包括：
创建一个任意的随机数，对所述随机数进行定点数编码，得到发送端第一编码随机数，其中，所述发送端第一编码随机数的编码倍率与所述第一加密编码预测结果的编码倍率对应；
根据所述发送端第一编码随机数与所述第一加密编码预测结果的差值得到发送端第二加密编码随机数，并将所述发送端第二加密编码随机数发送至接收端，使得所述接收端对所述发送端第二加密编码随机数进行解密，得到发送端第二编码随机数；
接收所述接收端发送的发送端第二编码随机数，根据所述第一目标倍率分别对所述发送端第一编码随机数及所述发送端第二编码随机数进行定点数截取，得到发送端第三编码随机数及发送端第四编码随机数，并根据所述发送端第三编码随机数及发送端第四编码随机数的和值得到第二编码预测结果。


3.根据权利要求2所述的方法，所述根据所述第二编码预测结果及目标标签数据得到第一编码差错包括：
获取标签数据，根据所述第二目标倍率对所述标签数据进行定点数编码，得到编码标签数据；
根据所述第二编码预测结果及所述编码标签数据的差值得到第一编码差错。


4.根据权利要求1所述的方法，所述根据所述第一加密编码差错对所述第一加密编码训练参数更新后进行迭代训练，得到训练后的第二加密编码训练参数包括：
根据所述第一加密编码差错及所述编码样本数据的乘积得到第一加密编码梯度；
根据所述第一加密编码梯度对所述第一加密编码训练参数进行更新，并根据所述更新后的第一加密编码训练参数进行迭代训练，得到训练后的第二加密编码训练参数。


5.根据权利要求4所述的方法，所述根据所述第一加密编码梯度对所述第一加密编码训练参数进行更新，并根据所述更新后的第一加密编码训练参数进行迭代训练，得到训练后的第二加密编码训练参数包括：
根据所述第一加密编码训练参数与所述第一加密编码梯度的差值对所述第一加密编码训练参数进行更新；
根据所述更新后的第一加密编码训练参数及预置的轮数进行迭代训练，并在每一轮训练后更新所述第一加密编码训练参数；
若当前的轮数达到所述预置轮数时，结束训练，并获得训练后的第二加密编码训练参数。


6.根据权利要求1所述的方法，所述根据所述第二加密编码训练参数得到第二训练参数包括：
创建一个任意的随机数，根据所述第二加密编码训练参数与所述随机数的差值得到第三加密编码训练参数，并将所述第三加密编码训练参数发送至接收端，使得所述接收端对所述第三加密编码训练参数进行解密，得到第三编码训练参数；
接收所述接收端返回的第三编码训练参数，根据所述第三编码训练参数及所述随机数的和值得到第二编码训练参数；
根据所述第一目标倍率对所述第二编码训练参数进行定点数截取，得到第二训练参数。


7.一种基于秘密共享的训练装置，包括：
编码模块，用于获取第一训练参数，根据第一目标倍率对所述第一训练参数进行定点数编码，...

【专利技术属性】
技术研发人员：谭晋，王磊，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：浙江;33