【技术实现步骤摘要】
基于联邦学习的模型训练方法、装置、设备和介质
[0001]本申请涉及计算机
,具体涉及人工智能领域,尤其涉及基于联邦学习的模型训练方法、装置、设备和介质。
技术介绍
[0002]目前,对于机器学习而言,数据尤为重要。通过聚合多方数据进行联邦学习,能够提高机器学习中模型训练的效果。
[0003]现在常见的基于联邦学习的模型训练方法通常是基于单个标签进行训练,如果单个标签的标签内容设置较为不合理,会导致模型训练的效果不佳。
技术实现思路
[0004]提供了一种基于联邦学习的模型训练方法、装置、设备和介质。
[0005]第一方面,本公开的实施例提供了一种基于联邦学习的模型训练方法,应用于业务端,包括:在专家经验标签库中获取第一训练标签集合和第二训练标签,专家经验标签库包括多个基于专家经验设置的训练标签,第一训练标签集合中包括多个不同的第一训练标签;对于各个数据端,在第一训练标签集合中确定该数据端对应的第一训练标签,并基于该数据端对应的第一训练标签,对该数据端中的模型进行训练;获取各个数据端根据 ...
【技术保护点】
【技术特征摘要】
1.一种基于联邦学习的模型训练方法,应用于业务端,所述方法包括:在专家经验标签库中获取第一训练标签集合和第二训练标签,所述专家经验标签库包括多个基于专家经验设置的训练标签,所述第一训练标签集合中包括多个不同的第一训练标签;对于各个数据端,在所述第一训练标签集合中确定该数据端对应的第一训练标签,并基于该数据端对应的第一训练标签,对该数据端中的模型进行训练;获取各个数据端根据训练好的模型发送的训练数据;根据所述训练数据和所述第二训练标签,对整合模型进行训练,以使训练好的整合模型对各个数据端发送的数据进行整合。2.根据权利要求1所述的方法,其中,所述基于该数据端对应的第一训练标签,对该数据端中的模型进行训练,包括:获取该数据端中的模型进行数据压缩处理后输出的压缩数据;基于所述压缩数据和该数据端对应的第一训练标签,向该数据端中的模型返回相应的优化方向,以使该数据端中的模型根据所述优化方向进行训练。3.根据权利要求2所述的方法,其中,所述基于所述压缩数据和该数据端对应的第一训练标签,向该数据端中的模型返回相应的优化方向,包括:响应于确定该数据端中的模型未训练好,基于各个数据端中其它数据端训练好的模型、所述压缩数据和该数据端对应的第一训练标签,向该数据端中的模型返回相应的优化方向。4.根据权利要求2所述的方法,其中,所述基于所述压缩数据和该数据端对应的第一训练标签,向该数据端中的模型返回相应的优化方向,包括:响应于确定该数据端未掉线且未出现延迟,基于所述压缩数据和该数据端对应的第一训练标签,向该数据端中的模型返回相应的优化方向。5.根据权利要求1所述的方法,其中,所述获取各个数据端根据训练好的模型发送的训练数据,包括:在各个数据端中确定未掉线且未出现延迟的目标数据端;获取所述目标数据端根据训练好的模型发送的训练数据。6.根据权利要求2所述的方法,其中,所述基于所述压缩数据和该数据端对应的第一训练标签,向该数据端中的模型返回相应的优化方向,包括:确定该数据端对应的至少一个同组数据端;获取各个同组数据端发送的压缩处理后的同组数据;利用该数据端对应的协同器,整合所述同组数据和所述压缩数据,得到整合数据;基于整合数据和该数据端对应的第一训练标签,向该数据端中的模型返回相应的优化方向。7.根据权利要求1至6任一项所述的方法,其中,所述根据所述训练数据和所述第二训练标签,对整合模型进行训练,包括:从所述训练数据中选取样本数据,并执行以下训练步骤:将所述样本数据输入初始模型,得到所述初始模型输出的输出结果;基于所述输出结果和所述第二训练标签,确定所述初始模型的损失函数的损失值;响应于所述损失值满足预设收敛条件,将所述初始模型作
为训练好的整合模型。8.根据权利要求7所述的方法,其中,所述方法还包括:响应于所述损失值不满足所述预设收敛条件,调整所述初始模型中的相关参数,并在所述训练数据中重新选取样本数据,继续执行所述训练步骤。9.一种基于联邦学习的模型训练方法,应用于数据端,所述方法包括:将原始数据输入待训练的模型,得到所述待训练的模型输出的压缩处理后的压缩数据;将所述压缩数据发送给业务端,以使所述业务端根据所述压缩数据返回优化方向;根据所述优化方向训练所述待训练的模型,得到训练好的模型;获取所述训练好的模型输出的训练数据;将所述训练数据发送给所述业务端,以使所述业务端基于所述训练数据训练整合模型。10.根据权利要求9所述的方法,其中,所述压缩数据为一维数据。11.一种基于联邦学习的模型训练装置,应用于业务端,所述装置包括:标签获取单元,被配置成在专家经验标签库中获取第一训练标签集合和第二训练标签,所述专家经验标签库包括多个基于专家经验设置的训练标签,所述第一训练...
【专利技术属性】
技术研发人员:李怡欣,张一凡,王虎,黄志翔,彭南博,
申请(专利权)人:京东科技控股股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。