基于人工智能的机器学习模型训练方法、预测方法及装置制造方法及图纸

本发明专利技术提供了一种基于人工智能的机器学习模型训练方法、预测方法、装置、电子设备及存储介质；方法包括：将参与机器学习模型训练的第一参与方的私有训练数据进行融合处理，得到所述第一参与方的本地信息；其中，所述第一参与方的私有训练数据包括所述第一参与方持有的私有权重参数；结合所述第一参与方以及参与所述机器学习模型训练的第二参与方的私有训练数据进行隐私保护处理，得到共享中间信息；根据所述共享中间信息和所述第一参与方的本地信息，确定所述机器学习模型对应所述第一参与方的梯度，并沿所述梯度的下降方向更新对应所述第一参与方的私有权重参数。通过本发明专利技术，能够在模型训练及预测过程中，提升参与方持有数据的安全性。

Machine learning model training method, prediction method and device based on Artificial Intelligence

【技术实现步骤摘要】
基于人工智能的机器学习模型训练方法、预测方法及装置
本专利技术涉及人工智能技术，尤其涉及一种基于人工智能的机器学习模型训练方法、预测方法、装置、电子设备及存储介质。
技术介绍
人工智能(AI，ArtificialIntelligence)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法和技术及应用系统。机器学习(ML，MachineLearning)是人工智能的一个重要分支，主要研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。在机器学习模型的训练过程中，可能会涉及到不同的参与方，每个参与方提供私有的数据进行模型训练。为了使各参与方共享模型，在相关技术提供的方案中，通常是根据各参与方拥有的属性，将训练完成的模型拆分给各个参与方，但是，如果某参与方能够提供包含所有属性的数据，即使某一属性只有一个非缺失值，那么该参与方就可获得模型的全部权重参数，导致其他参与方的私有数据存在泄露的可能，数据安全性低。r>
技术实现思路
...

【技术保护点】
1.一种基于人工智能的机器学习模型训练方法，其特征在于，包括：/n将参与机器学习模型训练的第一参与方的私有训练数据进行融合处理，得到所述第一参与方的本地信息；其中，所述第一参与方的私有训练数据包括所述第一参与方持有的机器学习模型的私有权重参数；/n结合所述第一参与方以及参与所述机器学习模型训练的第二参与方的私有训练数据进行隐私保护处理，得到共享中间信息；/n根据所述共享中间信息和所述第一参与方的本地信息，确定所述机器学习模型对应所述第一参与方的梯度，并/n沿所述梯度的下降方向更新对应所述第一参与方的私有权重参数。/n

【技术特征摘要】
1.一种基于人工智能的机器学习模型训练方法，其特征在于，包括：
将参与机器学习模型训练的第一参与方的私有训练数据进行融合处理，得到所述第一参与方的本地信息；其中，所述第一参与方的私有训练数据包括所述第一参与方持有的机器学习模型的私有权重参数；
结合所述第一参与方以及参与所述机器学习模型训练的第二参与方的私有训练数据进行隐私保护处理，得到共享中间信息；
根据所述共享中间信息和所述第一参与方的本地信息，确定所述机器学习模型对应所述第一参与方的梯度，并
沿所述梯度的下降方向更新对应所述第一参与方的私有权重参数。


2.根据权利要求1所述的机器学习模型训练方法，其特征在于，所述结合所述第一参与方以及参与所述机器学习模型训练的第二参与方的私有训练数据进行隐私保护处理，得到共享中间信息，包括：
获取所述第二参与方的本地信息，其中，所述第二参与方的本地信息是将所述第二参与方的私有训练数据进行融合处理得到；
将所述第一参与方的私有权重参数与所述第二参与方的属性参数进行共享标量积处理，得到第一点积结果；
将所述第一参与方的属性参数与所述第二参与方的私有权重参数进行共享标量积处理，得到第二点积结果；
将所述第二参与方的本地信息、所述第一点积结果及所述第二点积结果确定为共享中间信息；
其中，所述第一参与方及所述第二参与方的私有训练数据均包括属性参数。


3.根据权利要求2所述的机器学习模型训练方法，其特征在于，所述将所述第一参与方的私有权重参数与所述第二参与方的属性参数进行共享标量积处理，得到第一点积结果，包括：
对所述第一参与方的私有权重参数进行加密处理，得到第一密文；
将所述第一密文发送至所述区块链网络，以使
所述区块链网络的节点根据所述第一密文、所述第二参与方的属性参数及生成的对应所述第二参与方的共享参数，确定第二密文并存储所述第二密文；
向所述区块链网络发送查询请求，以获取所述区块链网络中的所述第二密文和所述第二参与方的共享参数；
对所述第二密文进行解密处理，得到对应所述第一参与方的共享参数；
将所述第一参与方的共享参数与所述第二参与方的共享参数进行求和处理，得到第一点积结果。


4.根据权利要求1所述的机器学习模型训练方法，其特征在于，所述根据所述共享中间信息和所述第一参与方的本地信息，确定所述机器学习模型对应所述第一参与方的梯度，包括：
根据所述共享中间信息和所述第一参与方的本地信息，确定所述机器学习模型的预测标签；
将所述第一参与方的样本标签与所述第二参与方的属性参数进行共享标量积处理，得到所述第一参与方的共享参数；
根据所述预测标签、所述第一参与方的共享参数及所述第一参与方的私有训练数据，确定所述机器学习模型对应所述第一参与方的梯度；
其中，所述第一参与方的私有训练数据包括属性参数和样本标签；所述第二参与方的私有训练数据包括属性参数。


5.根据权利要求4所述的机器学习模型训练方法，其特征在于，所述根据所述预测标签、所述第一参与方的共享参数及所述第一参与方的私有训练数据，确定所述机器学习模型对应所述第一参与方的梯度，包括：
根据所述预测标签和所述第一参与方的属性参数，确定第一梯度项；
根据所述第一参与方的私有权重参数和所述第一参与方包括的属性参数的数量，确定第二梯度项；
将所述第一参与方的共享参数确定为第三梯度项；
根据所述第一参与方的属性参数和样本标签，确定第四梯度项；
将所述第一梯度项、所述第二梯度项、所述第三梯度项和所述第四梯度项进行累积处理，得到所述机器学习模型对应所述第一参与方的梯度。


6.根据权利要求1所述的机器学习模型训练方法，其特征在于，还包括：
将所述第一参与方的本地信息发送至所述第二参与方，以使
所述第二参与方根据所述共享中间信息和所述第一参与方的本地信息，确定所述机器学习模型对应所述第二参与方的梯度，并
沿所述梯度的下降方向更新对应所述第二参与方的私有权重参数。


7.根据权利要求1所述的机器学习模型训练方法，其特征在于，所述将参与机器学习模型训练的第一参与方的私有训练数据进行融合处理，得到所述第一参与方的本地信息，包括：
对所述第一参与方的私有权重参数进行转置处理；
将所述第一参与方的属性参数与转置处理后的所述私有权重参数进行点积处理，得到所述第一参...

【专利技术属性】
技术研发人员：石维，赵瑞辉，陈婷，
申请(专利权)人：腾讯云计算北京有限责任公司，
类型：发明
国别省市：北京;11