System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请实施例涉及计算机,尤其涉及一种无中心联邦学习方法、装置、设备及存储介质。
技术介绍
1、在现实世界中,随着数据的广泛传播和共享,实现数据流通全过程动态监管在数字经济建设中具有重要的必要性和价值。尤其在金融领域,准确且全面的数据能够帮助金融机构、投资者和决策者做出更明智的决策,金融机构需要实时和准确的数据来进行风险评估和管理,从而促进金融产品和服务的创新和研发。但数据流通也需要考虑隐私、安全等方面的问题。
2、联邦学习(federated learning)是一种分布式机器学习方法,旨在在保护数据隐私的前提下,允许多个参与方共同训练机器学习模型。但是,传统联邦学习中,中央服务器(中心化节点)可能成为单点故障或隐私风险的问题。比如,在传统的联邦学习金融分析业务中,通常需要模型参数的跨域传输,如果集中在一个中心化的服务器上进行模型更新,极有可能涉及个人隐私、商业秘密等敏感信息的泄露风险。
3、因此,如何对传统联邦学习方法去中心化,减少模型训练和参数聚合过程对中心化的依赖,解决中心节点单点故障带来的数据泄露风险是现有技术中亟需解决的技术问题。
技术实现思路
1、本申请实施例提供了一种无中心联邦学习方法、装置、设备及存储介质,实现了联邦学习方法的去中心化,降低了中心节点单点故障带来的数据泄露风险。
2、第一方面,本申请实施例一种无中心联邦学习方法,应用于参与联邦学习的每个节点,包括:
3、获取本地样本数据集,并采用所述本地样本数据集和至少
4、采用所述本地样本数据集,对上一次迭代更新的所述本地待训练模型进行训练,获得本地模型梯度;
5、基于所述至少一个其他节点发送的参考模型梯度对所述本地模型梯度进行更新,获得更新后的所述本地模型梯度;
6、基于更新后的所述本地模型梯度,对上一次迭代更新的所述本地待训练模型的模型参数进行更新,获得本次迭代更新的所述本地待训练模型的模型参数。
7、本申请实施例中,参与联邦学习的每个节点采用本地样本数据集和至少一个其他节点发送的参考模型梯度,对本地待训练模型进行联合迭代训练,直至满足迭代停止条件,获得目标模型,每个节点只需要处理自己的本地数据,而不需要共享原始数据,实现了去中心联邦学习方法,有助于保护客户和企业数据的隐私和安全,避免了中心节点单点故障问题,从而降低了数据泄露风险。
8、一种可选实施方式中,所述基于所述至少一个其他节点发送的参考模型梯度对所述本地模型梯度进行更新,获得更新后的所述本地模型梯度,包括:
9、对所述至少一个其他节点发送的参考模型梯度和所述本地模型梯度求平均值,获得更新后的所述本地模型梯度。
10、一种可选实施方式中,所述基于更新后的所述本地模型梯度,对上一次迭代更新的所述本地待训练模型的模型参数进行更新,获得本次迭代更新的所述本地待训练模型的模型参数,包括:
11、将更新后的所述本地模型梯度,与上一次迭代更新的所述本地待训练模型的模型参数加权求和,获得本次迭代更新的所述本地待训练模型的模型参数。
12、一种可选实施方式中,每次迭代过程还包括以下操作:
13、采用所述本地样本数据集,对上一次迭代更新的所述本地待训练模型进行训练,获得本地损失值;
14、采用所述至少一个其他节点发送的参考损失值对所述本地损失值进行更新,获得更新后的所述本地损失值;
15、若更新后的所述本地损失值满足最小化条件,且当前迭代次数小于或等于预设次数,则确定满足所述迭代停止条件。
16、一种可选实施方式中,所述采用所述至少一个其他节点发送的参考损失值对所述本地损失值进行更新,获得更新后的所述本地损失值,包括:
17、对所述至少一个其他节点发送的参考损失值和所述本地损失值求平均值,获得更新后的所述本地损失值。
18、一种可选实施方式中,每次迭代过程还包括以下操作:
19、若当前迭代次数达到预设次数,则确定满足所述迭代停止条件。
20、一种可选实施方式中,所述本地样本数据包括以下至少一项:
21、账户信息、交易数据、用户画像、样本图像。
22、第二方面,本申请实施例提供了一种无中心联邦学习装置,应用于参与联邦学习的每个节点,包括:
23、获取模块,用于获取本地样本数据集,并采用所述本地样本数据集和至少一个其他节点发送的参考模型梯度,对本地待训练模型进行联合迭代训练,直至满足迭代停止条件,获得目标模型;
24、训练模块,用于采用所述本地样本数据集,对上一次迭代更新的所述本地待训练模型进行训练,获得本地模型梯度;
25、基于所述至少一个其他节点发送的参考模型梯度对所述本地模型梯度进行更新,获得更新后的所述本地模型梯度;
26、基于更新后的所述本地模型梯度,对上一次迭代更新的所述本地待训练模型的模型参数进行更新,获得本次迭代更新的所述本地待训练模型的模型参数。
27、一种可选实施方式中,所述训练模块具体用于:
28、对所述至少一个其他节点发送的参考模型梯度和所述本地模型梯度求平均值,获得更新后的所述本地模型梯度。
29、一种可选实施方式中,所述训练模块具体用于:
30、将更新后的所述本地模型梯度,与上一次迭代更新的所述本地待训练模型的模型参数加权求和,获得本次迭代更新的所述本地待训练模型的模型参数。
31、一种可选实施方式中,所述获取模块还用于:
32、采用所述本地样本数据集,对上一次迭代更新的所述本地待训练模型进行训练,获得本地损失值;
33、采用所述至少一个其他节点发送的参考损失值对所述本地损失值进行更新,获得更新后的所述本地损失值;
34、若更新后的所述本地损失值满足最小化条件,且当前迭代次数小于或等于预设次数,则确定满足所述迭代停止条件。
35、一种可选实施方式中,所述获取模块具体用于:
36、对所述至少一个其他节点发送的参考损失值和所述本地损失值求平均值,获得更新后的所述本地损失值。
37、一种可选实施方式中,所述获取模块还用于:
38、若当前迭代次数达到预设次数,则确定满足所述迭代停止条件。
39、第三方面,本申请实施例提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述无中心联邦学习方法的步骤。
40、第四方面,本申请实施例提供了一种计算机可读存储介质,其存储有可由计算机设备执行的计算机程序,当所述程序在计算机设备上运行时,使得所述计算机设备执行上述无中心联邦学习方法的步骤。
41、第五方面,本文档来自技高网...
【技术保护点】
1.一种无中心联邦学习方法,应用于参与联邦学习的每个节点,其特征在于,包括:
2.如权利要求1所述的方法,其特征在于,所述基于所述至少一个其他节点发送的参考模型梯度对所述本地模型梯度进行更新,获得更新后的所述本地模型梯度,包括:
3.如权利要求1所述的方法,其特征在于,所述基于更新后的所述本地模型梯度,对上一次迭代更新的所述本地待训练模型的模型参数进行更新,获得本次迭代更新的所述本地待训练模型的模型参数,包括:
4.如权利要求1所述的方法,其特征在于,每次迭代过程还包括以下操作:
5.如权利要求1所述的方法,其特征在于,所述采用所述至少一个其他节点发送的参考损失值对所述本地损失值进行更新,获得更新后的所述本地损失值,包括:
6.如权利要求1所述的方法,其特征在于,每次迭代过程还包括以下操作:
7.如权利要求1-6任一所述的方法,其特征在于,所述本地样本数据包括以下至少一项:
8.一种无中心联邦学习装置,应用于参与联邦学习的每个节点,其特征在于,包括:
9.一种计算机设备,包括存储器、处
10.一种计算机可读存储介质,其特征在于,其存储有可由计算机设备执行的计算机程序,当所述程序在计算机设备上运行时,使得所述计算机设备执行权利要求1-7任一所述方法的步骤。
11.一种计算机程序产品,其特征在于,所述计算机程序产品包括存储在计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被计算机设备执行时,使所述计算机设备执行权利要求1-7任一项所述方法的步骤。
...【技术特征摘要】
1.一种无中心联邦学习方法,应用于参与联邦学习的每个节点,其特征在于,包括:
2.如权利要求1所述的方法,其特征在于,所述基于所述至少一个其他节点发送的参考模型梯度对所述本地模型梯度进行更新,获得更新后的所述本地模型梯度,包括:
3.如权利要求1所述的方法,其特征在于,所述基于更新后的所述本地模型梯度,对上一次迭代更新的所述本地待训练模型的模型参数进行更新,获得本次迭代更新的所述本地待训练模型的模型参数,包括:
4.如权利要求1所述的方法,其特征在于,每次迭代过程还包括以下操作:
5.如权利要求1所述的方法,其特征在于,所述采用所述至少一个其他节点发送的参考损失值对所述本地损失值进行更新,获得更新后的所述本地损失值,包括:
6.如权利要求1所述的方法,其特征在于,每次迭代过程还包括以下操作:
...【专利技术属性】
技术研发人员:宋若宁,王斌斌,乔振浩,王芳,解军伟,王志刚,
申请(专利权)人:航天信息股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。