System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种动态通信环境下的客户端调度方法技术_技高网

一种动态通信环境下的客户端调度方法技术

技术编号:40651940 阅读:4 留言:0更新日期:2024-03-13 21:29
本发明专利技术属于动态通信环境下的客户端调度技术领域,涉及一种动态通信环境下的客户端调度方法;将所有客户端都进行本地模型训练,然后基于客户端训练的状态(通信延迟、资源能耗)定义客户端的状态向量,再结合客户端的两个动作状态选择性能最优的一批客户端;根据客户端的状态向量和动作空间定义客户端可用性,再选择一组客户端上传本地模型进行全局聚合,本发明专利技术状态向量是根据客户端的实时状态进行动态调整和适应,这使得系统能够根据客户端的实际情况做出更合理的决策,最大效率的选择合适的客户端参与模型聚合,客户端可用性可以更准确的评估每个客户端的性能和可参与度,提高模型训练的精度和效率。

【技术实现步骤摘要】

本专利技术属于动态通信环境下的客户端调度,具体来说是一种动态通信环境下的客户端调度方法


技术介绍

1、随着分布式设备数据的爆炸式增长,数据隐私安全问题日益突出,集中式模型训练方案可能不再适用。因此,联邦学习应运而生,但是现有的联邦学习研究仍有许多可以优化的方面。一方面,由于客户端的异质性和不平衡性问题,某些客户端的数据可能更具有代表性,训练出的模型效果更佳,但是该客户端在全局聚合阶段可能不会被选中参与模型聚合,因此引发公平性问题。另一方面,由于计算资源不足、网络连接问题等原因,某些客户端与服务器断开,无法参与到模型训练过程中,导致模型训练不平衡以及模型漂移等危害。

2、在主流的联邦学习研究中,采用随机选择的方式进行客户端调度,该方法会降低模型训练的效率。在此基础上,有些研究进行了改进,比如通过二进制选择机制选择客户端参与聚合等等,但仍未考虑客户端实时状态的影响。因此引入深度强化学习算法的客户端选择策略为该问题提供了解决思路。另一方面,在现有的联邦学习研究中,均默认客户端和服务器是一直相连的,忽略了客户端的间歇可用性,这与实际情况有很大差距,因此在联邦学习研究中考虑客户端实际情况下的间歇可用性是很有必要的。

3、目前,针对客户端间歇可用性问题,在2023年的一篇jstsp期刊文章中指出,该论文是第一个正式解决联邦学习中的客户端间歇不确定性的工作。在这篇文章中,提前给定每个客户端的可用概率,再通过概率论的方法求解出每个客户端的长期参与率,即客户端被选择参与模型聚合的频率。每个客户端在模型聚合时的贡献程度取决于长期参与率的大小。但该方法存在一个弊端,客户端的可用概率是固定的,并不能适应动态的时变环境。另外,可用概率的不当设定会给全局模型注入偏差和方差。例如,申请公布号为cn 116755883a的中国专利技术专利公开了联邦学习客户端优化选择方法,公开用贪心算法进行客户端选择,是在每一轮中指定[m×q]个随机客户端参与本轮的训练任务,该方法忽略了客户端的异质性,未综合考虑所有客户端的性能,且只对固定选择的几个客户端考虑了更新和上传时间,因此训练出的模型效果不佳,另外,该专利默认客户端在模型训练过程中始终与服务器连接,忽略了客户端掉线的问题。

4、因此,需要一种动态通信环境下的客户端调度方法,以解决未全面考虑客户端的异质性和不平衡性问题以及客户端间歇性问题。


技术实现思路

1、本专利技术针对上述现有技术中存在的问题,提供一种动态通信环境下的客户端调度方法,引入客户端选择策略和客户端间歇可用性来解决上述问题,提出了fcstv算法,基于客户端的实时状态,智能地选择客户端子集,加强了模型训练在分布式环境中的准确性,也提高了模型的训练效率。同时,结合客户端间歇性问题,引入客户端可用性作为评估指标,统计调整客户端选择策略,提高模型训练的稳定性。

2、为了实现上述目的,本专利技术采用以下技术方案:一种动态通信环境下的客户端调度方法,所述方法包括以下步骤:

3、步骤1,通过1个边缘服务器和n个客户端构成联邦学习模型;客户端的集合为u,每个客户端拥有一个本地数据集,该本地数据集是随时间的变化而变化的;

4、步骤2,k轮次迭代训练中,边缘服务器将全局模型分配给n个客户端,客户端n基于其本地数据集进行训练,得到本地模型;

5、步骤3,根据客户端的通信延迟和资源能耗得到客户端的状态向量;

6、步骤4,定义客户端的动作空间,动作空间包括两个动作:客户端未被选中参与联邦学习模型的聚合和客户端被选中参与联邦学习模型的聚合;

7、步骤5,基于客户端的两个动作分别获得奖励,奖励可以反馈当前状态下采取的动作,通过奖励评估客户端选择某个动作的利弊;

8、步骤6,根据客户端的状态向量、动作空间和奖励定义q函数,通过q函数计算客户端每个动作的q值,并选择两个动作中q值大的作为客户端当前的动作;通过学习q函数,评估客户端在当前状态下采取某个动作之后所能获得的奖励价值,帮助客户端选择最优的动作,以最大化未来的累积奖励;

9、步骤7,将当前动作为客户端被选中参与联邦学习模型的聚合的客户端形成客户端子集c;

10、步骤8,为了避免在模型训练过程中,部分客户端在某些时间点无法参与聚合的问题,根据客户端状态向量和动作空间定义客户端可用性,来描述客户端在参与模型聚合过程中的可靠性;然后计算客户端子集c中每个客户端的客户端可用性;

11、步骤9,将计算得到的客户端可用性从大到小进行排序,并判断客户端是否与边缘服务器连通,最后进行遍历,按照客户端可用性从大到小的顺序从与边缘服务器连通的客户端中选择前s个客户端,形成被选中参与联邦学习模型的客户端集合s;如果第一次遍历时,与边缘服务器连通的客户端数量小于s,则从客户端子集c中剩下的客户端进行下一次或多次遍历,直至被选中参与联邦学习模型聚合的客户端集合s中的客户端数量达到s;

12、步骤10,完成客户端的选择,集合s中的客户端上传本地模型参与联邦学习模型的聚合,得到全局模型。

13、进一步地,步骤3中所述的客户端的通信延迟,具体为:

14、假设边缘服务器通过具有带宽的无线链路与其范围内的客户端进行通信,而没有小区间干扰;边缘服务器在每个轮次中以的比例将带宽平均分配给其范围内的客户端,在时隙t中,客户端n的传输速率表示为:

15、

16、其中,表示整体带宽,表示客户端n到边缘服务器的传输功率,表示无线链路的信道增益,表示噪声谱密度;

17、客户端n基于本地数据集训练得到本地模型,被选择的客户端将本地模型上传到边缘服务器的大小为:

18、

19、其中,为本地数据集的大小;表示本地模型在第k轮迭代中对样本的预测和实际输出的损失函数;表示损失函数的维度;和分别表示输入样本和输出标记的维度,表示权重因子。综合考虑了本地模型对每个样本的损失函数维度,同时还考虑了输入样本和输出标记的维度,通过引入权重因子,用以平衡每个样本在模型大小计算中的贡献。

20、客户端n传输到边缘服务器的通信延迟为:

21、。

22、所述的客户端的资源能耗,具体为:客户端根据本地数据集进行本地更新训练,考虑产生的能耗包括计算能耗和更新能耗;其中计算能耗由本地训练产生,更新能耗由上传本地模型至边缘服务器所产生;

23、在k轮次迭代训练中,计算能耗的计算公式为:

24、其中,表示客户端n执行一个本地数据集的cpu周期数,表示客户端n运行一轮所需的cpu周期数,表示客户端n的cpu周期频率;是客户端n的计算芯片组的有效电容系数;

25、在k轮次迭代训练中,客户端训练完成得到本地模型,边缘服务器基于客户端选择策略选择一个客户端子集,客户端子集中的客户端上传自身的本地模型到边缘服务器进行模型聚合,更新能耗的计算公式为:

26、

27、其中,表示客户端n本文档来自技高网...

【技术保护点】

1.一种动态通信环境下的客户端调度方法,其特征在于,所述方法包括以下步骤:

2.根据权利要求1所述的动态通信环境下的客户端调度方法,其特征在于,步骤3中所述的客户端的通信延迟,具体为:

3.根据权利要求1所述的动态通信环境下的客户端调度方法,其特征在于,步骤3中所述的客户端的资源能耗,具体为:资源能耗包括计算能耗和更新能耗;

4.根据权利要求1所述的动态通信环境下的客户端调度方法,其特征在于,步骤4中,具体为:动作空间的定义如下:

5.根据权利要求1所述的动态通信环境下的客户端调度方法,其特征在于,步骤5中,奖励的计算公式如下:

6.根据权利要求1所述的动态通信环境下的客户端调度方法,其特征在于,步骤6中Q值函数的定义具体为:

7.根据权利要求6所述的动态通信环境下的客户端调度方法,其特征在于,

8.根据权利要求1所述的动态通信环境下的客户端调度方法,其特征在于,步骤8中,客户端可用性具体为:

【技术特征摘要】

1.一种动态通信环境下的客户端调度方法,其特征在于,所述方法包括以下步骤:

2.根据权利要求1所述的动态通信环境下的客户端调度方法,其特征在于,步骤3中所述的客户端的通信延迟,具体为:

3.根据权利要求1所述的动态通信环境下的客户端调度方法,其特征在于,步骤3中所述的客户端的资源能耗,具体为:资源能耗包括计算能耗和更新能耗;

4.根据权利要求1所述的动态通信环境下的客户端调度方法,其特征在于,步骤4中,具...

【专利技术属性】
技术研发人员:郭永安王国成李嘉靖王宇翱
申请(专利权)人:南京邮电大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1