基于联邦学习的模型参数获取方法、系统及可读存储介质技术方案

技术编号:20045556 阅读:17 留言:0更新日期:2019-01-09 04:22
本发明专利技术公开了一种基于联邦学习的模型参数获取方法、系统及可读存储介质,该方法包括步骤:当第三终端接收到第二终端发送的加密后的损失值后,所述第三终端解密所述损失值,得到解密后的所述损失值;根据解密后的所述损失值检测待训练模型是否处于收敛状态;若检测到待训练模型处于收敛状态,则获取与损失值对应的梯度值;确定与梯度值对应的样本参数,将与梯度值对应的样本参数确定为待训练模型的模型参数。本发明专利技术实现了联合第一终端和第二终端的样本数据计算得到损失值,以通过联合第一终端和第二终端的样本数据联合帮助学习确定待训练模型中的模型参数,提高了训练所得模型的准确度。

【技术实现步骤摘要】
基于联邦学习的模型参数获取方法、系统及可读存储介质
本专利技术涉及数据处理
,尤其涉及一种基于联邦学习的模型参数获取方法、系统及可读存储介质。
技术介绍
随着机器学习的快速发展,机器学习可应用于各个领域,如数据挖掘、计算机视觉、自然语言处理、生物特征识别、医学诊断、检测信用卡欺诈、证券市场分析和DNA(deoxyribonucleicacid,脱氧核糖核酸)序列测序等。机器学习通常是系统提供样本数据,学习部分利用样本数据修改系统的知识库,以增进系统执行部分完成任务的效能,执行部分根据知识库完成任务,同时把获得的信息反馈给学习部分。目前,由于各方的样本数据具有密切联系,如果机器学习仅使用一方的样本数据,则学习得到的模型不准确,因此,如何联合各方的样本数据,得到模型中的参数,提高模型的准确度,是亟待解决的问题。
技术实现思路
本专利技术的主要目的在于提供一种基于联邦学习的模型参数获取方法、系统及可读存储介质,旨在解决现有的如何联合各方数据,提高所得模型的准确度的技术问题。为实现上述目的,本专利技术提供一种基于联邦学习的模型参数获取方法,所述基于联邦学习的模型参数获取方法包括步骤:当第三终端接收到第二终端发送的加密后的损失值后,所述第三终端解密所述损失值,得到解密后的所述损失值,其中,所述损失值是通过第一终端对应的第一数据和所述第二终端对应的第二数据计算得到的;根据解密后的所述损失值检测待训练模型是否处于收敛状态;若检测到所述待训练模型处于收敛状态,则获取与所述损失值对应的梯度值;确定与所述梯度值对应的样本参数,将与所述梯度值对应的样本参数确定为所述待训练模型的模型参数。优选地,所述当第三终端接收到第二终端发送的加密后的损失值后,所述第三终端解密所述损失值,得到解密后的所述损失值的步骤之前,还包括:当所述第二终端接收到所述第一终端发送的加密后的第一数据后,所述第二终端计算与所述第一数据对应的第二数据,以及获取所述第二数据对应的样本标签,其中,所述第一数据和所述第二数据对应的样本标签相同;根据所述样本标签、所述第一数据和所述第二数据计算损失值;采用同态加密算法加密所述损失值,得到加密后的所述损失值,并将加密后的所述损失值发送给所述第三终端。优选地,所述根据解密后的所述损失值检测待训练模型是否处于收敛状态的步骤之后,还包括:若检测到所述待训练模型未处于所述收敛状态,则获取所述第二终端和所述第一终端发送的梯度值,并更新所述梯度值,得到更新后的所述梯度值;将更新后的所述梯度值发送给所述第一终端和所述第二终端,以供所述第一终端和所述第二终端根据更新后的所述梯度值对应更新样本参数;其中,当所述第一终端更新所述样本参数后,所述第一终端根据更新后的所述样本参数和交集样本数据中特征变量对应的变量值计算得到第一数据,并对所述第一数据进行加密,将加密后的第一数据发送给所述第二终端。优选地,所述第二终端根据更新后的所述梯度值对应更新样本参数的步骤包括:当第二终端接收到更新后的所述梯度值后,所述第二终端计算更新后的所述梯度值与预设系数之间的乘积;将更新前的样本参数减去所述乘积,得到更新后的所述样本参数。优选地,所述当第三终端接收到第二终端发送的加密后的损失值后,所述第三终端解密所述损失值,得到解密后的所述损失值的步骤之前,还包括:所述第一终端采用预存的第一公钥加密第一样本标识,并将加密后的第一样本标识发送给所述第二终端,并检测是否接收到所述第二终端发送的,采用预存的第二公钥加密后的第二样本标识;当接收到加密后的第二样本标识后,采用所述第一公钥对所述第二样本标识进行二次加密,得到第二加密值,并检测是否接收到所述第二终端发送的第一加密值;当接收到所述加密值后,判断所述第一加密值与所述第二加密值是否相等;若所述第一加密值与所述第二加密值相等,则确定所述第一样本标识与所述第二样本标识相同,并将所述第一样本标识对应的样本数据确定为与所述第二终端的交集样本数据。优选地,所述确定与所述梯度值对应的样本参数,将与所述梯度值对应的样本参数确定为所述待训练模型的模型参数的步骤之后,还包括:当所述第二终端确定模型参数,且接收到执行请求后,所述第二终端将所述执行请求发送给所述第一终端,以供所述第一终端在接收到所述执行请求后,根据对应的所述模型参数和所述执行请求对应特征变量的变量值返回第一预测分数给所述第二终端;当接收到所述第一预测分数后,根据对应的所述模型参数和所述执行请求对应特征变量的变量值计算第二预测分数;将所述第一预测分数和所述第二预测分数相加,得到预测分数总和,并根据所述预测分数总和输入所述待训练模型中,得到模型分数,并根据所述模型分数确定是否执行所述执行请求。优选地,所述根据解密后的所述损失值检测待训练模型是否处于收敛状态的步骤包括:获取所述第二终端前一次发送的第一损失值,并将解密后的所述损失值记为第二损失值;计算所述第一损失值和所述第二损失值之间的差值,并判断所述差值是否小于或者等于预设阈值;当确定所述差值小于或者等于所述预设阈值时,确定所述待训练模型处于收敛状态;当确定所述差值大于所述预设阈值时,确定所述待训练模型未处于收敛状态。此外,为实现上述目的,本专利技术还提供一种模型参数获取系统,所述模型参数获取系统包括存储器、处理器和存储在所述存储器上并可在所述处理器上运行的基于联邦学习的模型参数获取程序,所述基于联邦学习的模型参数获取程序被所述处理器执行时实现如上所述的基于联邦学习的模型参数获取方法的步骤。此外,为实现上述目的,本专利技术还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有基于联邦学习的模型参数获取程序,所述基于联邦学习的模型参数获取程序被处理器执行时实现如上所述的基于联邦学习的模型参数获取方法的步骤。本专利技术通过当第三终端接收到第二终端发送的加密后的损失值后,第三终端解密损失值,得到解密后的损失值,其中,损失值是通过第一终端和第二终端中的样本数据计算得到的;根据解密后的损失值检测待训练模型是否处于收敛状态;若检测到待训练模型处于收敛状态,则获取与损失值对应的梯度值;确定与梯度值对应的样本参数,将与梯度值对应的样本参数确定为待训练模型的模型参数。实现了联合第一终端和第二终端的样本数据计算得到损失值,以通过联合第一终端和第二终端的样本数据联合帮助学习确定待训练模型中的模型参数,提高了训练所得模型的准确度。附图说明图1是本专利技术实施例方案涉及的硬件运行环境的结构示意图;图2为本专利技术基于联邦学习的模型参数获取方法第一实施例的流程示意图;图3为本专利技术基于联邦学习的模型参数获取方法第二实施例的流程示意图;图4为本专利技术基于联邦学习的模型参数获取方法第三实施例的流程示意图。本专利技术目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。具体实施方式应当理解,此处所描述的具体实施例仅仅用以解释本专利技术,并不用于限定本专利技术。如图1所示,图1是本专利技术实施例方案涉及的硬件运行环境的结构示意图。需要说明的是,图1即可为模型参数获取系统的硬件运行环境的结构示意图。本专利技术实施例模型参数获取系统可以是PC,便携计算机等终端设备。如图1所示,该模型参数获取系统可以包括:处理器1001,例如CPU,网络接口1004,用户接口1003,存储器1005,通信总线10本文档来自技高网...

【技术保护点】
1.一种基于联邦学习的模型参数获取方法,其特征在于,所述基于联邦学习的模型参数获取方法包括以下步骤:当第三终端接收到第二终端发送的加密后的损失值后,所述第三终端解密所述损失值,得到解密后的所述损失值,其中,所述损失值是通过第一终端对应的第一数据和所述第二终端对应的第二数据计算得到的;根据解密后的所述损失值检测待训练模型是否处于收敛状态;若检测到所述待训练模型处于收敛状态,则获取与所述损失值对应的梯度值;确定与所述梯度值对应的样本参数,将与所述梯度值对应的样本参数确定为所述待训练模型的模型参数。

【技术特征摘要】
1.一种基于联邦学习的模型参数获取方法,其特征在于,所述基于联邦学习的模型参数获取方法包括以下步骤:当第三终端接收到第二终端发送的加密后的损失值后,所述第三终端解密所述损失值,得到解密后的所述损失值,其中,所述损失值是通过第一终端对应的第一数据和所述第二终端对应的第二数据计算得到的;根据解密后的所述损失值检测待训练模型是否处于收敛状态;若检测到所述待训练模型处于收敛状态,则获取与所述损失值对应的梯度值;确定与所述梯度值对应的样本参数,将与所述梯度值对应的样本参数确定为所述待训练模型的模型参数。2.如权利要求1所述的基于联邦学习的模型参数获取方法,其特征在于,所述当第三终端接收到第二终端发送的加密后的损失值后,所述第三终端解密所述损失值,得到解密后的所述损失值的步骤之前,还包括:当所述第二终端接收到所述第一终端发送的加密后的第一数据后,所述第二终端计算与所述第一数据对应的第二数据,以及获取所述第二数据对应的样本标签,其中,所述第一数据和所述第二数据对应的样本标签相同;根据所述样本标签、所述第一数据和所述第二数据计算损失值;采用同态加密算法加密所述损失值,得到加密后的所述损失值,并将加密后的所述损失值发送给所述第三终端。3.如权利要求1所述的基于联邦学习的模型参数获取方法,其特征在于,所述根据解密后的所述损失值检测待训练模型是否处于收敛状态的步骤之后,还包括:若检测到所述待训练模型未处于所述收敛状态,则获取所述第二终端和所述第一终端发送的梯度值,并更新所述梯度值,得到更新后的所述梯度值;将更新后的所述梯度值发送给所述第一终端和所述第二终端,以供所述第一终端和所述第二终端根据更新后的所述梯度值对应更新样本参数;其中,当所述第一终端更新所述样本参数后,所述第一终端根据更新后的所述样本参数和交集样本数据中特征变量对应的变量值计算得到第一数据,并对所述第一数据进行加密,将加密后的第一数据发送给所述第二终端。4.如权利要求3所述的基于联邦学习的模型参数获取方法,其特征在于,所述第二终端根据更新后的所述梯度值对应更新样本参数的步骤包括:当第二终端接收到更新后的所述梯度值后,所述第二终端计算更新后的所述梯度值与预设系数之间的乘积;将更新前的样本参数减去所述乘积,得到更新后的所述样本参数。5.如权利要求3所述的基于联邦学习的模型参数获取方法,其特征在于,所述当第三终端接收到第二终端发送的加密后的损失值后,所述第三终端解密所述损失值,得到解密后的所述损失值的步骤之前,还包括:所述第一终端采用预存的第一...

【专利技术属性】
技术研发人员:范涛马国强陈天健杨强刘洋
申请(专利权)人:深圳前海微众银行股份有限公司
类型:发明
国别省市:广东,44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1