基于分层联邦学习的无人机小基站集群RAN切片方法技术

本发明专利技术针对无人机小基站集群为地面用户提供差异化服务的场景，提出一种基于分层联邦学习的无人机小基站集群RAN切片方法基于分层联邦学习的动态RAN切片框架，以提升切片性能隔离效果、减少协同训练过程的通信代价。首先，考虑到无人机动态部署和数据不足等特点，通过数据增广促进本地模型训练。然后，根据位置和数据分布信息，设计面向无人机集群的分簇策略，支持边缘模型聚合，使得边缘的成员无人机有更多机会参与联邦学习并降低通信代价。最后，探索基于注意力机制的边缘和全局模型聚合方案，增强全局联邦学习模型的泛化能力。仿真结果表明，同典型分布式机器学习方法相比，本发明专利技术能够提升切片性能隔离效果，降低无人机协同训练的通信代价。同训练的通信代价。同训练的通信代价。

【技术实现步骤摘要】
基于分层联邦学习的无人机小基站集群RAN切片方法


[0001]本专利技术属于计算机通信
，具体是一种基于分层联邦学习的无人机小基站集群RAN切片方法

技术介绍

[0002]第五代移动通信系统(5G)支持多样化应用场景，促使数以百亿计的物联网设备接入网络
[1]，对资源提供和服务质量(QoS，Quality of Service)保障提出了更高的要求。尽管地面5G无线接入网(RAN，Radio Access Networks)可以基本满足大多数应用的服务需求，但在缺乏基础设施的情况下或出现节假日聚集活动、举办重要赛事等临时性热点时，地面RAN便显得力不从心。此时，配置有无线收发装置和边缘计算模块的无人机形成的空中小基站(drone
‑
small
‑
cell)
[2]可以拓展网络覆盖范围和缓解资源分配压力，满足在突发或临时情况下终端设备的服务需求。由于单一无人机的局限性，未来无人机小基站将以集群方式共同为地面用户提供服务
[3]，这种方式已成为后5G和6G RAN的重要组成部分。
[0003]RAN切片是5G网络和可扩展网络架构中重要的使能技术之一，可以根据客户需求提供定制化服务
[4]。RAN切片将共享的物理无线网络分割成多个隔离的逻辑网络，为用户动态、弹性地分配网络资源
[5]。在通信网络发展过程中，一个自然的步骤是将RAN切片“延伸”至无人机小基站，使其可以支持多样化的服务。机器学习方法能够对资源需求数据进行更高层次、更抽象的表达，成为解决RAN切片中复杂决策问题的重要手段。在切片资源分配方面，机器学习方法可以根据网络态势变化准确地预测用户的切片资源需求
[6]，还可以实现多时间尺度资源分配
[7]和自适应的资源调度
[8]，但现有RAN切片方案大多针对地面网络设计。
[0004]与地面基站不同，无人机小基站计算和存储能力有限，决定了其难以长时间进行复杂模型的训练。另一方面，由于动态部署特性，无人机小基站很难在有限时间内收集到足够的数据，限制了本地模型的质量提升。近年来，研究人员对无人机辅助的RAN切片进行了探讨，包括根据QoS要求对无人机应用分类
[9]、定制针对特定QoS要求的逻辑无人机网络
[10]、根据资源的使用次序评估切片的优先级
[11]、优化切片的频谱效率
[12]等，为地面用户提供差异化的QoS支持。然而，如何针对无人机小基站集群设计有效的RAN切片架构还有待进一步研究。
[0005]作为一种典型的分布式协同训练框架，联邦学习(FL，Federated Learning)支持跨域模型聚合。FL框架为提升无人机小基站集群整体模型质量开辟了新途径。直觉上，各无人机小基站在本地模型训练完成后，只需将模型参数上载至中心控制器用于全局模型聚合，便可以显著提升模型质量
[13]。事实上，联邦学习与无人机集群的高效融合仍然面临着诸多挑战，主要包括以下三个问题：
[0006](1)FL模型参数需要在无人机和中心控制器之间进行交换，导致了较高的通信代价
[14]，如何在保证训练效果的同时减少无人机集群的通信代价是需要考虑的关键问题。现有方法主要从减小数据传输(如：采用梯度压缩
[15])和客户端调度(如：每轮训练选择部分
设备参与
[16][17])等方面入手。前者通常会产生一定的梯度损失，导致精度下降。虽然研究人员提出了一些方法(如：自适应阈值梯度压缩算法
[18])避免精度下降，但复杂度较高。后者需要训练更多轮次
[19]，会降低模型收敛速度，很难直接应用于动态部署且资源有限的无人机小基站。
[0007](2)虽然集群中各无人机的部署位置相近，但不同无人机采样的数据仍可能存在一定差异性
[20]，这会导致训练过程的收敛速度下降
[21]和模型聚合时出现权重偏差
[22]。尽管数据共享策略
[23]和最小化边缘数据的KL散度
[24]等方法可降低数据差异性带来的负面影响，但这些方法依赖大量的数据传输和复杂的运算。FL客户端分簇
[25]也是可能的解决方案，但现有方法主要考虑互联网中的固定客户端，这与动态部署和资源有限的无人机有本质不同。
[0008](3)无人机小基站通常被按需动态部署，很难在短时间内收集到足够的数据，加之计算存储能力有限，模型质量难以提升。如果无人机本地模型性能不佳，必然影响全局模型的性能。不同无人机小基站之间还存在系统异构性，即计算、存储和通信能力的差异性
[26]，从而带来模型的差异。若采用传统的联邦平均
[27]方法，模型泛化能力会受到削弱。

技术实现思路

[0009]针对上述技术问题，本专利技术提出基于分层FL的无人机小基站集群RAN切片方法，目的是提升切片性能隔离效果、减少模型协同训练的通信代价。
[0010]本专利技术的一种基于分层联邦学习的无人机小基站集群RAN切片方法，在无人机小基站集群无线接入网RAN场景中，每个无人机小基站上的物理资源依照切片预测模型被虚拟化为多个切片，每个切片支持一类定制化服务；无人机小基站简称为无人机；
[0011]切片预测模型是联邦学习FL模型，以下简称模型；采用基于学习的方法进行模型协同训练优化，步骤包括：
[0012]1)本地数据增广和模型训练：当到无人机达新的部署位置后，每个无人机利用数据增广策略促进本地模型训练；
[0013]2)面向边缘模型聚合的分簇：地面基站根据各无人机提交的数据分布和位置信息对无人机集群进行分簇，并选举簇头；
[0014]无人机集群被分为多个簇，簇内成员将本地模型参数上载至簇头；簇头将基站更新后的全局模型参数下发至簇内成员；
[0015]3)分层模型聚合：簇头聚合簇内成员的模型参数后，形成边缘聚合模型，并将模型参数进一步上传至地面基站；地面基站聚合边缘聚合模型参数，建立全局模型；
[0016]簇头将更新后的全局模型参数分发给簇内成员；簇内成员无人机根据接收到的全局模型参数更新本地模型。
[0017]本专利技术主要贡献包括：
[0018]第一、针对问题(1)，本专利技术设计基于分层联邦学习的协同训练框架。除了自主地进行本地训练，无人机可以利用中继同地面基站进行参数的交换，从而减少通信代价，优化通信效率。
[0019]第二、针对问题(2)，本专利技术设计一种基于地理位置和数据分布的无人机集群分簇策略。充当簇头的无人机负责接收簇内成员的模型参数，执行边缘模型聚合。边缘聚合方案
也使得距离地面基站较远的无人机有更多机会参与局部模型的协同优化。
[0020]第三、针对问题(3)，本专利技术考虑到动态部署和数据不足等特点，通过数据增广促进本地训练，提升局部模型性能。针对边缘和全局模型聚合，探索基于注意力机制的模型聚合方案，与分层FL框架协同工作，提升全局模型的泛化能力，使得每个无人机小基本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于分层联邦学习的无人机小基站集群RAN切片方法，其特征是，在无人机小基站集群无线接入网RAN场景中，每个无人机小基站上的物理资源依照切片预测模型被虚拟化为多个切片，每个切片支持一类定制化服务；无人机小基站简称为无人机；切片预测模型是联邦学习FL模型，以下简称模型；采用基于学习的方法进行模型协同训练优化，步骤包括：1)本地数据增广和模型训练：当到无人机达新的部署位置后，每个无人机利用数据增广策略促进本地模型训练；2)面向边缘模型聚合的分簇：地面基站根据各无人机提交的数据分布和位置信息对无人机集群进行分簇，并选举簇头；无人机集群被分为多个簇，簇内成员将本地模型参数上载至簇头；簇头将基站更新后的全局模型参数下发至簇内成员；3)分层模型聚合：簇头聚合簇内成员的模型参数后，形成边缘聚合模型，并将模型参数进一步上传至地面基站；地面基站聚合边缘聚合模型参数，建立全局模型；簇头将更新后的全局模型参数分发给簇内成员；簇内成员无人机根据接收到的全局模型参数更新本地模型。2.根据权利要求1所述的基于分层联邦学习的无人机小基站集群RAN切片方法，其特征是无人机上的控制器根据服务的资源需求量动态地为切片分配资源，方法为：假设时间被划分为多个切片窗口，每个切片窗口被划分为多个离散时隙，代表切片窗口a包含的时隙集合，该集合中元素的个数被表示为T
a
；无人机在当前切片窗口a运行过程中预测下一窗口a+1内各切片所需的资源块数量；在窗口a+1开始时，根据资源需求预测值重新分配每个切片的资源；在窗口a以内，每个切片分配的资源块数量维持不变，在切片窗口内的各个时隙t开始时，无人机上的控制器为接收的任务分配资源块；每个无人机预留一部分可被各个切片共享的资源块；在资源不足的情况下，切片临时占用这些共享资源块；假设无人机k的资源块数量为B
k
，这些资源块被编排成M
k
个切片，且切片集合记为在切片窗口a，假设无人机k上切片m在窗口a+1的资源需求预测值为而在时隙的实际资源分配量为则有切片资源分配有2种情形：情形1：代表在时隙t所需的实际资源块数量大于切片窗口a内的预测值，此时切片m需要临时占用预留的共享资源块；情形2：代表所需的资源块数量小于预测值，则切片m的资源满足当前需求；假设无人机k预留的共享资源块被表示为B
′
k
，对于情形1，若即所有共享资源块都不足以应对突发的资源需求，则切片性能隔离将无法得到保障；令二元变量代表在时隙t无人机k上的各切片可以维持性能隔离，否则为0，即
由式(1)，在窗口a+1内，切片性能隔离时长占比越高，则资源分配方案越有效；于是，相应的切片性能隔离优化问题描述为在窗口a运行过程中，无人机k上的切片m在下一窗口a+1资源块数量预测值和真实资源需求之间的差距越小，为1的概率越大；于是，通过最小化预测值和真实值之间的均方误差(MSE，Mean Square Error)，问题被转化为如下优化问题被转化为如下优化问题问题的实质是在资源总量约束下如何通过优化模型训练来缩小预测误差，以尽可能提升切片性能隔离的时间占比；式2、3中，T是一个切片窗口内离散时隙的数量，M是切片的数量。3.根据权利要求2所述的基于分层联邦学习的无人机小基站集群RAN切片方法，其特征是步骤1)中，在切片窗口a，无人机k利用全局模型参数w
(a)
初始化自身模型，并根据所采集的数据进行本地训练；令代表无人机k上切片m在切片窗口a的实际资源需求向量，则无人机k上所有切片的实际资源需求矩阵为无人机k预测切片m在窗口a+1所需的资源块数量为其中，f(
·
)代表无人机k的预测模型，为模型参数；利用本地数据增广方法促进模型训练，方法为：采用窗口切片方法进行数据增广，即通过使用一个滑动窗口在序列上不断滑...

【专利技术属性】
技术研发人员：殷珉，沈航，王天荆，白光伟，
申请(专利权)人：南京工业大学，
类型：发明
国别省市：