【技术实现步骤摘要】
混合联邦学习方法、装置、电子设备及存储介质
[0001]本公开涉及机器学习
,尤其涉及一种混合联邦学习方法、装置、电子设备及存储介质。
技术介绍
[0002]在机器学习
中,混合联邦学习通过多个参与组来训练模型,每一参与组包括一个中心节点和多个边缘节点。
[0003]相关技术中,全局中心节点向每一个参与组中的中心节点发送初始模型,之后,参与组的中心节点将初始模型向参与组中的全部边缘节点发送。参与组中的边缘节点根据初始模型进行本地训练,并将训练得到的模型参数发往参与组的中心节点。参与组的中心节点将参与组内边缘节点上报的模型参数进行聚合,并更新初始模型,得到更新后的模型,之后再将更新后的模型向参与组内的全部边缘节点发送,开始新一轮的组内混合联邦学习。
[0004]在参与组内的模型满足收敛条件后,各个参与组的中心节点将满足收敛条件的模型参数向全局中心节点上报,全局中心节点根据各个参与组上报的模型参数更新初始模型,并将更新后的模型向各个参与组的中心节点发送,开始新一轮的全局混合联邦学习,直至全局中心节点中 ...
【技术保护点】
【技术特征摘要】
1.一种混合联邦学习方法,其特征在于,混合联邦学习涉及多个参与组,所述方法应用于参与组的中心节点,包括:获取所述中心节点所在参与组中第一边缘节点的质量分,所述质量分基于第一边缘节点在历史参与混合联邦学习中得到的参与得分确定,所述参与得分基于第一边缘节点参与混合联邦学习得到的质量参数确定;根据所述第一边缘节点的质量分,从所述第一边缘节点中确定参与本轮混合联邦学习的第二边缘节点;根据所述第二边缘节点进行本轮混合联邦学习。2.根据权利要求1所述的方法,其特征在于,所述质量参数包括模型性能指标、训练能耗、模型参数传输能耗、模型参数传输时延中的一个或多个;所述模型性能指标包括模型分类的准确率、精确率、召回率、F1分数、模型回归的均方根误差、平均绝对误差中的一个或多个。3.根据权利要求1所述的方法,其特征在于,所述第一边缘节点包括参与混合联邦学习的历史轮次小于预定轮次的第三边缘节点,以及参与混合联邦学习的历史轮次不小于预定轮次的第四边缘节点;所述获取所述中心节点所在参与组中第一边缘节点的质量分,包括:获取所述第三边缘节点历史参与混合联邦学习得到的全部参与得分,每一参与得分对应一轮混合联邦学习;获取所述第四边缘节点在本轮混合联邦学习前预定轮次参与混合联邦学习得到的多个参与得分;根据所述全部参与得分,确定所述第三边缘节点的质量分;根据所述多个参与得分,确定所述第四边缘节点的质量分。4.根据权利要求3所述的方法,其特征在于,所述根据所述多个参与得分,确定所述第四边缘节点的质量分,包括:确定所述多个参与得分中每一参与得分的权重,所述多个参与得分的权重之和为第一预定值;根据所述多个参与得分中每一参与得分的权重与所述多个参与得分,确定所述第四边缘节点的质量分。5.根据权利要求4所述的方法,其特征在于,所述多个参与得分中每一参与得分的权重与轮次差值负相关,所述轮次差值基于参与得分对应的混合联邦训练轮次与本轮混合联邦训练轮次确定。6.根据权利要求1所述的方法,其特征在于,所述中心...
【专利技术属性】
技术研发人员:于志刚,
申请(专利权)人:中国电信股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。