模型训练方法、系统、计算机设备及存储介质技术方案

技术编号:45130344 阅读:25 留言:0更新日期:2025-05-06 17:51
本公开涉及计算机技术领域,公开了模型训练方法、装置、计算机设备及存储介质,该方法包括:对于每个客户端:服务端将服务端上的多个教师分类模型中对应于该客户端的教师分类模型的权重信息初始化为从该客户端接收的该客户端上的本地分类器的本地优化的权重信息;服务端,训练全局扩散模型,以及训练全局分类模型。

【技术实现步骤摘要】

本公开涉及计算机,具体涉及一种模型训练方法、系统、计算机设备及存储介质


技术介绍

1、训练联邦学习学习的过程中进行的客户端与服务端之间的数据传输容易受到机密性攻击。

2、在相关技术中,抵御机密性攻击手段为使用同态加密算法、差分隐私等来加密在客户端与服务端之间传输的传输来提高联邦学习过程中客户端与服务端之间的数据传输的隐私性。然而,加密数据会消耗大量的资源,加密数据的耗时长。导致保护联邦学习过程中客户端与服务端之间的数据传输的安全的成本高。如何降低联邦学习过程中客户端与服务端之间的数据传输的安全的成本成为一个需要解决的问题。


技术实现思路

1、有鉴于此,本公开实施例提供了一种模型训练方法、系统、计算机设备及存储介质。

2、第一方面,本公开实施例提供了一种模型训练方法,该方法包括:

3、对于多个客户端中每个客户端:服务端将服务端上的多个教师分类模型中对应于客户端的教师分类模型的权重信息初始化为从所述客户端接收的所述客户端上的本地分类器的本地优化的权重信息,其中,客户端上有通过本文档来自技高网...

【技术保护点】

1.一种模型训练方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,根据所述每个教师扩散模型对应的教师分类模型输出的预测分类结果、全局分类模型输出的预测分类结果,确定用于更新全局分类模型的参数的损失包括:

3.根据权利要求2所述的方法,其特征在于,根据所述每个教师扩散模型对应的教师分类模型输出的预测分类结果,确定目标预测分类结果包括:

4.根据权利要求1所述的方法,其特征在于,在对于多个客户端中每个客户端:服务端将服务端上的多个教师分类模型中对应于所述客户端的教师分类模型的权重信息初始化为从所述客户端接收的所述客户端上的本地分类...

【技术特征摘要】

1.一种模型训练方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,根据所述每个教师扩散模型对应的教师分类模型输出的预测分类结果、全局分类模型输出的预测分类结果,确定用于更新全局分类模型的参数的损失包括:

3.根据权利要求2所述的方法,其特征在于,根据所述每个教师扩散模型对应的教师分类模型输出的预测分类结果,确定目标预测分类结果包括:

4.根据权利要求1所述的方法,其特征在于,在对于多个客户端中每个客户端:服务端将服务端上的多个教师分类模型中对应于所述客户端的教师分类模型的权重信息初始化为从所述客户端接收的所述客户端上的本地分类器的本地优化的权重信息之前,所述方法还包括:

5.根据权利要求1-4中任一项所述的方法,其特征在于,所述方法还包括:

6.一种模型训练系统,其特征在于,所述系统包括:客户端、服务端;其中,服务端用于对于每个客户端:服务端将服务端上的多个教师分类模型中对应于客户端的教师分类模型的权重信息初始化为从所述客户端接收的所述客户端上的本地分类器的本地优化的权重信息,其中,客户端上有通过拆分客户端上本地模型而得到的作为私有模型的本地编码器、作为公有模型的本地分类器、作为公有模型的本地扩散模型;将服务端上的多个教师扩散模型中对应于客户端的教师扩散模型的权重信息初始化为从所述客户端接收的所述客户端上的本地扩散模型的本地优化的权重信息;服务端还用于训练全局扩散模型,以及训练全局分类模型;其中,训练全局扩散模型包括:对于每个教师扩散模型,利用所述教师扩散模型,对第一高斯噪声进行多次逆向扩散,得到所述教师扩散模型对应的第一特征;利用全局扩散模型,分别对每个教师扩散模型对应的第一特征进行多次前向扩散,得到每个教师扩散模型对应的加噪声的信号;分别对每个教师扩散模型对应的加噪声的...

【专利技术属性】
技术研发人员:张舒雨赵邢瑜黄宇生潘逸倩
申请(专利权)人:天翼云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1