模型优化算法的转换方法、装置、通信设备及存储介质制造方法及图纸

技术编号:37481111 阅读:17 留言:0更新日期:2023-05-07 09:21
本申请实施例公开了一种模型优化算法的转换方法、装置、通信设备及存储介质,属于无线通信技术领域。本申请实施例中模型优化算法的转换方法包括:根据终端的上下行信道质量信息,确定终端所属的第一模型优化算法组;当第一模型优化算法组与所述终端当前所属的第二模型优化算法组不同时,向终端发送指示信息,该指示信息用于指示终端采用第一模型优化算法组对应的目标模型优化算法;更新第一模型优化算法组所包含的终端;与第一模型优化算法组中的终端联合训练模型;在联合训练模型时,第一模型优化算法组中的终端采用目标模型优化算法。由此,可以使得终端在与基站联合训练模型时采用合理的优化算法,从而保证模型的收敛速度,避免资源浪费。避免资源浪费。避免资源浪费。

【技术实现步骤摘要】
模型优化算法的转换方法、装置、通信设备及存储介质


[0001]本申请属于无线通信
,具体涉及一种模型优化算法的转换方法、装置、通信设备及存储介质。

技术介绍

[0002]实际通信网络中,出于对本地数据隐私和安全性的考虑,基站和多个终端可以采用分布式模型训练框架联合训练模型。在模型训练过程中,终端可以采用低阶优化算法,仅计算梯度等信息,单次迭代的交互信息少,但收敛速度太慢。为了加快模型的收敛速度,终端也可以采用高阶优化算法,计算损失函数的曲度等复杂信息,单次迭代的交互信息较多,这对通信链路质量要求较高。然而,通信链路的不稳定和不可靠是通信网络的本质特征,由此引起的重传,不仅会增加通信开销,还会延长模型收敛时间。因此,在联合训练模型时,如何使得终端采用合理的优化算法是目前急需解决的问题。

技术实现思路

[0003]本申请实施例的目的是提供一种模型优化算法的转换方法、装置、通信设备及存储介质,能够使得终端在与基站联合训练模型时采用合理的优化算法,从而保证模型的收敛速度,避免资源浪费。
[0004]第一方面,提供了一种模型本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种模型优化算法的转换方法,应用于基站,其特征在于,包括:根据终端的上下行信道质量信息,确定所述终端所属的第一模型优化算法组;当所述第一模型优化算法组与所述终端当前所属的第二模型优化算法组不同时,向所述终端发送指示信息;其中,所述指示信息用于指示所述终端采用所述第一模型优化算法组对应的目标模型优化算法;更新所述第一模型优化算法组所包含的终端;与所述第一模型优化算法组中的终端联合训练模型;其中,在联合训练模型时,所述第一模型优化算法组中的终端采用所述目标模型优化算法。2.根据权利要求1所述的方法,其特征在于,所述与所述第一模型优化算法组中的终端联合训练模型,包括:分别获取所述第一模型优化算法组中终端的最新的模型权值;根据获取的所有模型权值,确定所述第一模型优化算法组的目标模型权值;以所述目标模型权值作为所述第一模型优化算法组的下一轮模型训练的起始值,与所述第一模型优化算法组中的终端联合训练模型。3.根据权利要求2所述的方法,其特征在于,对于所述第一模型优化算法组中新加入的终端,在分别获取所述第一模型优化算法组中终端的最新的模型权值时,所述方法包括:向所述新加入的终端发送最新模型请求消息;其中,所述最新模型请求消息用于请求所述新加入的终端的最新的模型权值;从所述新加入的终端接收最新模型响应消息;其中,所述最新模型响应消息中包括所述新加入的终端的最新的模型权值。4.根据权利要求2所述的方法,其特征在于,所述根据获取的所有模型权值,确定所述第一模型优化算法组的目标模型权值,包括:根据获取的所有模型权值,生成候选模型权值序列;向所述第一模型优化算法组中的每个终端发送梯度范数请求消息;其中,所述梯度范数请求消息用于请求相应终端的损失函数的梯度范数,所述梯度范数请求消息中包括所述候选模型权值序列;从所述每个终端接收梯度范数响应消息;其中,所述梯度范数响应消息中包括相应终端的损失函数在所述候选模型权值序列上的梯度范数;根据接收到的梯度范数,确定所述目标模型权值。5.根据权利要求4所述的方法,其特征在于,所述根据接收到的梯度范数,确定所述目标模型权值,包括:将所述接收到的梯度范数中的最小梯度范数对应的模型权值,确定为所述目标模型权值。6.根据权利要求1所述的方法,其特征在于,所述向所述终端发送指示信息之后,所述方法还包括:从所述终端接收优化算法响应消息;其中,所述优化算法响应消息中包括:用于指示所述终端是否同意采用所述目标模型优化算法的反馈信息;其中,所述更新所述第一模型优化算法组所包含的终端,包括:当所述反馈信息指示所述终端同意采用所述目标模型优化算法时,更新所述第一模型
优化算法组所包含的终端。7.一种模型优化算法的转换方法,应用于终端,其特征在于,包括:从基站接收指示信息;其中,所述指示信息用于指示终端采用第一模型优化算法组对应的目标模型优化算法;所述第一模型优化算法组是所述基站根据所述终端的上下行信道质量信息,确定的所述终端所属的组;所述第一模型优化算法组与所述终端当前所属的第二模型优化算法组不同;确定所述终端支持所述目标模型优化算法;与所述基站以及所述第一模型优化算法组中的其他终端联合训练模型;其中,在联合训练模型时,所述第一模型优...

【专利技术属性】
技术研发人员:邓娟刘光毅
申请(专利权)人:中国移动通信集团有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1