【技术实现步骤摘要】
本申请涉及计算机,尤其涉及一种模型融合方法、装置、电子设备及存储介质。
技术介绍
1、现有的金融领域大模型训练方法通常依赖于集中的数据和计算资源,这在隐私保护和数据安全方面存在显著挑战。金融领域的数据通常具有高度的敏感性和保密性,包括个人账户信息、交易记录、贷款申请、信用评分等。传统的集中式训练方式要求将所有数据集中到一个局点的服务器进行训练,容易导致数据泄露和隐私侵犯。
技术实现思路
1、本申请实施例提供模型融合方法、装置、电子设备及存储介质,用以达到数据安全的效果。
2、第一方面,本申请实施例提供一种模型融合方法,包括:
3、确定参与金融场景模型融合的至少两个参与方,至少两个参与方之间的数据相互隔离;
4、针对每个参与方,获取参与方上传的学生模型,学生模型根据参与方的教师模型进行知识蒸馏得到,教师模型为根据参与方的数据集对待训练模型进行模型训练得到;
5、根据每个参与方的学生模型,对所有学生模型进行融合处理,得到全局模型。
6
...【技术保护点】
1.一种模型融合方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述根据每个参与方的学生模型,对所有学生模型进行融合处理,得到全局模型,包括:
3.根据权利要求2所述的方法,其特征在于,所述根据每个学生模型和每个学生模型的模型权重,得到全局模型参数,满足:
4.根据权利要求1-3任一所述的方法,其特征在于,所述学生模型通过以下方式得到:
5.根据权利要求4所述的方法,其特征在于,所述针对每个参与方,根据所述参与方的教师模型进行知识蒸馏,得到初始学生模型,包括:
6.根据权利要求5所述的方法
...【技术特征摘要】
1.一种模型融合方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述根据每个参与方的学生模型,对所有学生模型进行融合处理,得到全局模型,包括:
3.根据权利要求2所述的方法,其特征在于,所述根据每个学生模型和每个学生模型的模型权重,得到全局模型参数,满足:
4.根据权利要求1-3任一所述的方法,其特征在于,所述学生模型通过以下方式得到:
5.根据权利要求4所述的方法,其特征在于,所述针对每个参与方,根据所述参与方的教师模型进行...
【专利技术属性】
技术研发人员:金扬,
申请(专利权)人:中国农业银行股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。