System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及移动边缘计算与分布式机器学习应用领域,尤其涉及一种基于多中心分层联邦学习的边缘服务器再分配方法。
技术介绍
1、在移动边缘计算(mobile edge computing, mec)网络中,人工智能应用不断产生大量数据,需要对这些数据进行分析,以获得对业务优势和决策有价值的模式。同时,为了促进人工智能的大规模高效部署,人工智能和mec的融合产生了边缘智能(edgeintelligence,ei)。ei使分布式数据所有者能够协作生成全局模型,而无需共享他们的原始数据。因此,提出了一种新的分布式机器学习(machine learning, ml)方法,称为联邦学习(federated learning,fl)。与集中式训练范式相比,fl将ml任务卸载到数千个地理分布的用户设备(user equipment,ue),ue使用本地数据协作训练ml模型,用于服务器中的模型聚合。
2、为了大规模部署ei应用,分层fl正在成为在mec中实现高效fl的解决方案,它由云级聚合器和多个边缘级聚合器组成。在分层fl中,边缘级聚合器组合本地ue模型以产生多个边缘级模型。然后,云级聚合器通过聚合边缘级模型获得全局模型,并将更新后的全局模型返回给其ue,用于下一轮局部训练。为了简单起见,系统实现了一个分层的fl进程,可以称之为单个分层联邦。然而,由于海量ue、异构数据和有限的资源,单一层次联邦可能会导致通信失败、长周期训练过程和训练精度下降。为此,通过选择具有较高能力和数据质量的客户,提出了资源管理方法,如客户选择和激励机制设计。
3、然而,在mec部署这样的架构涉及几个进一步的实际挑战。首先,利用单个分层联邦来大规模地服务于大规模ue导致更低效的联邦学习训练流程。例如,跨网络运营商的设备共享、网络基础设施的多样性以及不均匀的地理基础设施分布可能会消耗大量资源来构建单个联邦。其次,mec中的ue通常缺乏很强的通信能力,这可能导致ue选择最近的边缘服务器作为其网络接入点。由于网络基础设施分配不均,ue中缺乏对数据隔离的考虑,基于邻近度的ue-边缘服务器连接可能会放大数据异构性的影响,降低相应的边缘级模型,从而降低训练效率。第三,fl中现有的客户端选择方法缺乏对快速增长的ue的考虑。由于一个fl过程中有多个客户端参与,现有的资源管理和客户端调度问题的规模可能会超线性增加,使问题难以解决。最后,大多数现有的研究需要客户的额外隐私来做出决定,例如通信和计算能力、本地数据的质量和数量以及预训练结果。这种信息收集可能会导致客户隐私的泄露,这与fl的初衷背道而驰。
技术实现思路
1、为了缓解这些挑战,我们提出了一种称为多中心分层联邦学习(multiplehierarchical federated learning, mhfl)的架构,然后设计了一种隐私保护的边缘服务器重新分配方案来提高mhfl中的训练效率。
2、本专利技术的技术方案如下:一种基于多中心分层联邦学习的边缘服务器再分配方法,建立一种多中心分层联邦学习架构mhfl;建立多中心分层联邦学习架构mhfl的训练成本分析模型;根据训练成本分析模型将边缘服务器分配问题建模为一个基于多项目拍卖边缘服务器再分配问题;设计一种基于联盟结构生成方法,将待分配边缘服务器组合为联盟,对联盟进行分配;针对无法被基于联盟结构生成方法简化的边缘服务器再分配问题,设计一种基于贪婪匹配的再分配决策方法,最终得到分配后的边缘服务器分配方案。
3、所述多中心分层联邦学习架构建立如下:
4、多中心分层联邦学习架构中存在多个联邦学习系统,每个联邦学习系统拥有自己的边缘服务器与中心云服务器,为对应区域的用户设备提供服务,组织联邦学习训练;在多中心分层联邦学习架构中,一个网络区域被多个联邦学习系统划分和覆盖,用户设备选择最近的边缘服务器作为其网络接入点;移动边缘计算网络mec表示为 ,其中表示边缘服务器集,表示中心云服务器集;每个边缘服务器按地理位置部署在特定区域,为其覆盖范围内的用户设备ue 提供服务,并分配给指定的联邦学习系统;联邦学习系统通过中心云服务器管理和控制各自的边缘服务器;每个边缘服务器的资源限制由决定,其中代表计算资源,代表带宽资源;每个中心云服务器的容量限制其访问指定数量的边缘服务器;每个边缘服务器与其覆盖范围内的用户设备ue 建立无线连接,与中心云服务器建立有线连接;表示一个用户设备ue,表示用户设备对应的数据,其中为整数,表示边缘计算网络中用户设备的总数;的数据量由给出。
5、所述训练成本分析模型包括通信成本模型、聚合成本、训练成本模型和经济成本消耗;
6、所述通信成本模型具体为: 表示在第次迭代中从向边缘服务器传输单位量数据的成本,更新其模型到分配的边缘服务器的通信开销显示为,
7、 (1)
8、其中表示边缘服务器下用户设备的模型参数的数量;
9、表示从边缘服务器到中心云服务器传输单位量数据的成本,和之间的通信成本表述为,
10、
11、其中表示边缘服务器的模型参数的数量;联邦学习系统处理期间的通信成本表述为,
12、 (2)
13、其中表示全局通信轮次,表示边缘通信轮次,每当进行次边缘通信后,进行一次全局通信,整个训练流程共进行全局通信轮; 表示在第次迭代中从向边缘服务器传输单位量数据的成本;
14、聚合成本:表示参与联邦学习过程的的注册ue的集合,边缘服务器的数据聚合开销显示为,
15、 (3)
16、其中表示在中聚合局部模型的成本;
17、中心云服务器的聚合成本是,
18、 (4)
19、其中是一个指示符变量,表示是否被选中参与联邦学习训练过程;联邦学习训练过程中的总数据聚合成本为
20、 (5)
21、训练成本模型:表示客户端的训练成本,表示处理单位数据量的成本,训练成本为,
22、 (6)
23、经济成本消耗包括维护成本、计算成本和传输成本,提出一个联邦学习训练运行时间模型,根据联邦学习训练运行时间模型并结合单位时间维护成本、单位计算成本和单位传输成本分别将维护成本、计算成本和传输成本转化为对应的经济成本消耗;将分配给边缘服务器的ue最长训练时间表示为,其中表示每个单独的边缘通信轮,相当于的运行时间;中心云服务器的运行时间由所有边缘服务器中最长的运行时间决定,即,
24、 (7)
25、维护成本的经济成本消耗为,
26、 本文档来自技高网...
【技术保护点】
1.一种基于多中心分层联邦学习的边缘服务器再分配方法,其特征在于,建立一种多中心分层联邦学习架构MHFL;建立多中心分层联邦学习架构MHFL的训练成本分析模型;根据训练成本分析模型将边缘服务器分配问题建模为一个基于多项目拍卖边缘服务器再分配问题;设计一种基于联盟结构生成方法,将待分配边缘服务器组合为联盟,对联盟进行分配;针对无法被基于联盟结构生成方法简化的边缘服务器再分配问题,设计一种基于贪婪匹配的再分配决策方法,最终得到分配后的边缘服务器分配方案。
2.根据权利要求1所述的基于多中心分层联邦学习的边缘服务器再分配方法,其特征在于,所述多中心分层联邦学习架构建立如下:
3.根据权利要求1所述的基于多中心分层联邦学习的边缘服务器再分配方法,其特征在于,所述训练成本分析模型包括通信成本模型、聚合成本、训练成本模型和经济成本消耗;
4.根据权利要求3所述的基于多中心分层联邦学习的边缘服务器再分配方法,其特征在于,所述基于多项目拍卖边缘服务器再分配问题的构建如下:
5.根据权利要求4所述的基于多中心分层联邦学习的边缘服务器再分配方法,其特征
6.根据权利要求4所述的基于多中心分层联邦学习的边缘服务器再分配方法,其特征在于,所述基于联盟结构生成技术具体为:定义享乐偏好表征边缘服务器加入联盟的偏好;
7.根据权利要求6所述的基于多中心分层联邦学习的边缘服务器再分配方法,其特征在于,所述基于贪婪匹配的再分配决策方法,具体如下:
...【技术特征摘要】
1.一种基于多中心分层联邦学习的边缘服务器再分配方法,其特征在于,建立一种多中心分层联邦学习架构mhfl;建立多中心分层联邦学习架构mhfl的训练成本分析模型;根据训练成本分析模型将边缘服务器分配问题建模为一个基于多项目拍卖边缘服务器再分配问题;设计一种基于联盟结构生成方法,将待分配边缘服务器组合为联盟,对联盟进行分配;针对无法被基于联盟结构生成方法简化的边缘服务器再分配问题,设计一种基于贪婪匹配的再分配决策方法,最终得到分配后的边缘服务器分配方案。
2.根据权利要求1所述的基于多中心分层联邦学习的边缘服务器再分配方法,其特征在于,所述多中心分层联邦学习架构建立如下:
3.根据权利要求1所述的基于多中心分层联邦学习的边缘服务器再分配方法,其特征在于,...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。