一种联邦学习优化方法、装置、设备及计算机存储介质制造方法及图纸

技术编号:28039935 阅读:27 留言:0更新日期:2021-04-09 23:23
本申请实施例提供了一种联邦学习优化方法、装置、设备及计算机存储介质,方法包括:获取运营商数据和金融用户数据;根据所述运营商数据和所述金融用户数据基于联邦学习模型得到初始模型;根据预设规则化函数对所述初始模型的目标函数进行优化,得到优化目标函数;根据所述运营商数据和所述金融用户数据基于所述优化目标函数,对所述初始模型进行迭代训练,得到最优模型。根据本申请实施例的联邦学习优化方法,能够减小数据质量不佳对模型的影响,保证模型的稳定性。

【技术实现步骤摘要】
一种联邦学习优化方法、装置、设备及计算机存储介质
本申请属于机器学习
,尤其涉及一种联邦学习优化方法、装置、设备及计算机存储介质。
技术介绍
在现有金融行业的风险预评估场景中,利用联邦学习模型根据金融行业自有数据和运营商数据进行建模,建模分别在双方内部进行,同时进行模型参数、优化目标等交互,实现建模目标最优化。在该环节中运营商数据占有较大的比重,该过程中双方交互的为样本数据和模型参数,因此能够保护双方数据不出局,实现联合建模。然而,在长期的应用实践中,尤其是在拉新场景下,金融行业自有用户数据有限,并且多为外部引入的其他三方数据,数据质量不能保证。在联合建模框架下,由于自有数据量少、质量难以保证的金融行业数据会导致模型效果的畸变,使得建模效果不佳。因此,如何提供一种联邦学习优化方法、装置、设备及计算机存储介质,能够减小数据质量不佳对模型的影响,保证模型的稳定性是本领域技术人员需要解决的技术问题。
技术实现思路
本申请实施例提供一种联邦学习优化方法、装置、设备及计算机存储介质,能够减小数据质量不佳对模型的影响,保证模型的稳定性。第一方面,本申请实施例提供联邦学习优化方法,方法包括:获取运营商数据和金融用户数据;根据运营商数据和金融用户数据基于联邦学习模型得到初始模型;根据预设规则化函数对初始模型的目标函数进行优化,得到优化目标函数;根据运营商数据和金融用户数据基于优化目标函数,对初始模型进行迭代训练,得到最优模型。进一步地,在根据预设规则化函数对初始模型的目标函数进行优化,得到优化目标函数之前,方法还包括:根据运营商数据,采用评分卡方式确定预设规则化函数。进一步地,在根据预设规则化函数对初始模型的目标函数进行优化,得到优化目标函数之前,方法还包括:根据运营商数据,采用规则制定方式确实预设规则化函数。进一步地,预设规则化函数表示为:εg(z1,z2...)其中,ε为缩放系数,z为运营商数据指标。进一步地,目标函数表示为:y=F(f(predict(xm1,xm2,...,xn1,xn2...),r))优化目标函数表示为:y=F(f(predict(xm1,xm2,...,xn1,xn2...),r)+εg(z1,z2...))其中xm表示运营商数据,xn表示金融用户数据,r为真实标签,predict()为预测函数,f表示差异度量函数,F表示联邦学习模型评估函数;g为预设规则化函数,ε为缩放系数,z为运营商数据指标。进一步地,根据运营商数据和金融用户数据基于联邦学习模型得到初始模型,包括:通过加密算法对运营商数据和金融用户数据进行数据对齐;根据对齐后的运营商数据和金融用户数据,基于联邦学习模型得到初始模型。进一步地,加密算法包括:RSA加/解密算法和哈希算法。第二方面,本申请实施例提供了一种联邦学习优化装置,装置包括:数据获取模块,用于获取运营商数据和金融用户数据;模型训练模块,用于根据运营商数据和金融用户数据基于联邦学习模型得到初始模型;目标函数优化模块,用于根据预设规则化函数对初始模型的目标函数进行优化,得到优化目标函数;模型训练模块,还用于根据运营商数据和金融用户数据基于优化目标函数,对初始模型进行迭代训练,得到最优模型。进一步地,还包括:加密通信模块,用于通过加密网络获取运营商数据和金融用户数据。第三方面,本申请实施例提供了一种联邦学习优化设备,设备包括:处理器,以及存储有计算机程序指令的存储器;处理器读取并执行计算机程序指令,以实现如上所述的联邦学习优化方法。第四方面,本申请实施例提供了一种计算机存储介质,计算机存储介质上存储有计算机程序指令,计算机程序指令被处理器执行时实现如上所述的联邦学习优化方法。本申请实施例的联邦学习优化方法、装置、设备及计算机存储介质,利用运营商数据优化目标函数,能够减小数据质量不佳对模型的影响,保证模型的稳定性。附图说明为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例中所需要使用的附图作简单的介绍,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。图1是本申请实施例提供的一种联邦学习优化方法的流程示意图;图2是本申请实施例提供的一种联邦学习优化装置结构示意图;图3是本申请实施例提供的一种联邦学习优化设备的结构示意图。具体实施方式下面将详细描述本申请的各个方面的特征和示例性实施例,为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及具体实施例,对本申请进行进一步详细描述。应理解,此处所描述的具体实施例仅意在解释本申请,而不是限定本申请。对于本领域技术人员来说,本申请可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本申请的示例来提供对本申请更好的理解。需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。在现有技术中,利用联邦学习模型根据金融行业自有数据和运营商数据进行建模,建模分别在双方内部进行,同时进行模型参数、优化目标等交互,实现建模目标最优化。该过程中双方交互的为样本数据和模型参数,因此能够保护双方数据不出局,实现联合建模。然而,在长期的应用实践中,尤其是在拉新场景下,金融行业自有用户数据有限,并且多为外部引入的其他三方数据,数据质量不能保证。在联合建模框架下,由于自有数据量少、质量难以保证的金融行业数据会导致模型效果的畸变,使得建模效果不佳。为解决上述问题,本申请实施例提供了一种联邦学习优化方法、装置、设备及计算机存储介质,由于运营商数据具有高连续性、高保真性、维度全面等优点,成为金融风控的有力数据支撑,所以本申请在联邦学习的基础之上,利用运营商数据对模型目标函数进行优化,并采用正则化方式进行约束,最大限度发挥运营商自有的高质量和高保真数据作用。实践表明,基于本申请所提供的方案的联邦学习模型,能够在避免行业数据质量问题的前提下实现双方的数据融合交互,相比于单一采用运营商数据模型或金融行业用户数据模型,效果得到明显提升,而且相比于采用传统联邦学习方案,模型的稳定性得到有效保证。下面首先对本申请实施例所提供的联邦学习优化方法进行介绍。图1示出了本申请一个实施例提供的联邦学习本文档来自技高网...

【技术保护点】
1.一种联邦学习优化方法,其特征在于,包括:/n获取运营商数据和金融用户数据;/n根据所述运营商数据和所述金融用户数据基于联邦学习模型得到初始模型;/n根据预设规则化函数对所述初始模型的目标函数进行优化,得到优化目标函数;/n根据所述运营商数据和所述金融用户数据基于所述优化目标函数,对所述初始模型进行迭代训练,得到最优模型。/n

【技术特征摘要】
1.一种联邦学习优化方法,其特征在于,包括:
获取运营商数据和金融用户数据;
根据所述运营商数据和所述金融用户数据基于联邦学习模型得到初始模型;
根据预设规则化函数对所述初始模型的目标函数进行优化,得到优化目标函数;
根据所述运营商数据和所述金融用户数据基于所述优化目标函数,对所述初始模型进行迭代训练,得到最优模型。


2.根据权利要求1所述的联邦学习优化方法,其特征在于,在所述根据预设规则化函数对所述初始模型的目标函数进行优化,得到优化目标函数之前,所述方法还包括:
根据所述运营商数据,采用评分卡方式确定所述预设规则化函数。


3.根据权利要求1所述的联邦学习优化方法,其特征在于,在所述根据预设规则化函数对所述初始模型的目标函数进行优化,得到优化目标函数之前,所述方法还包括:
根据所述运营商数据,采用规则制定方式确定所述预设规则化函数。


4.根据权利要求3所述的联邦学习优化方法,其特征在于,所述预设规则化函数表示为:εg(z1,z2...)
其中,ε为缩放系数,z为运营商数据指标。


5.根据权利要求1至4任一项所述的联邦学习优化方法,其特征在于,
所述目标函数表示为:y=F(f(predict(xm1,xm2,...,xn1,xn2...),r))
所述优化目标函数表示为:
y=F(f(predict(xm1,xm2,...,xn1,xn2...),r)+εg(z1,z2...))
其中xm表示运营商数据,xn表示金融用户数据,r为真实标签,predict()为预测函数,f表示差异度量函数,F表示联邦学习模型评估函数;g为...

【专利技术属性】
技术研发人员:陆天珺赵雨樊巧云陈龙方海贝孙苑苑李树春
申请(专利权)人:中国移动通信集团江苏有限公司中国移动通信集团有限公司
类型:发明
国别省市:江苏;32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1