一种移动车辆的异步联邦学习方法、系统、设备及终端技术方案

本发明专利技术属于车辆管理技术领域，公开了一种移动车辆的异步联邦学习方法、系统、设备及终端，所述移动车辆的异步联邦学习系统，包括用户层、域

【技术实现步骤摘要】
一种移动车辆的异步联邦学习方法、系统、设备及终端


[0001]本专利技术属于车辆管理
，尤其涉及一种移动车辆的异步联邦学习方法、系统、设备及终端。

技术介绍

[0002]目前，互联网的发展促进了物联网的发展，并且逐渐向着万物互联的趋势发展，其中5G大带宽，低延时等特性加快了边缘设备的兴起，这些设备产生的大量信息为机器学习提供了原始训练数据，因此让这些边缘设备更加智能。在车联网环境中，车辆是典型的网络边缘设备，它产生的应用数据输入到神经网络中可以为用户提供更好的个性化服务。
[0003]传统机器的学习模式下，每辆车需要将用户数据上传到云数据处理中心(以下简称云中心)，在云中心经过训练后再根据需求将结果返回给本地用户，但是数据传输过程会占用大量带宽，给骨干网造成很大流量压力，而且传输这些个人数据会带来很多用户隐私问题，用户数据安全无法得到保障。2017年，Google公司提出了联邦学习架构，这种新的分布式机器学习最初的目的就是避免数据泄露、保护用户数据隐私安全，它保障用户数据在不出本地的情况下也能参与机器学习训练。在联邦学习架构中，联邦成员被定义为数据提供方和本地训练客户端，所有联邦成员共享一个模型并协同完成模型的训练，然后将本地模型上传到云中心，云中心聚合所有本地模型得到一个全局模型，最终将结果下发给所有本地客户端作为下次模型训练的初始值。云
‑
客户端整个交互过程中传递的是模型参数或者梯度，用户数据始终保留在本地，因而用户隐私得到了保障。
[0004]然而，这种云
‑r/>客户端的机器学习模型具有很高的时延成本和通信开销，在很多时间灵敏性网络场景中无法获得较好的性能。近些年，边缘计算兴起，由于边缘节点部署在靠近网络边缘的位置，有更多机会接触到网络底层设备产生的数据，而且边缘服务器通常具有强大计算能力，边
‑
客户端通信有带宽高、时延低的优点，因此这种基于边缘的机器学习架构在联邦学习领域受到广泛关注。
[0005]但是，无论是基于边缘还是基于云的机器学习架构，其高层在聚合生成全局模型时大都采用传统的同步聚合算法，如FedAvg，FedSGD，这些算法可以有效实现静态场景下联邦学习的模型聚合。然而在大多数移动场景中，联邦成员存在连接不稳定，连接异步的情况，这些算法无法解决联邦成员如何动态加入联邦聚合的问题。当前车联网络架构中，车辆的数据由原来的云中心处理逐渐发展为网络边缘的路侧单元(RSU)处理，由于车辆节点具有高移动性、灵活性的特点，车辆异步参与联邦聚合成为常态。另外，传统的联邦学习聚合算法大多是基于模型平均算法的思想，这种聚合算法每轮的聚合时间往往取决于花费时间最长的客户端，由于延迟，网络抖动，节点差异化的算力条件等，这在一定概率上这会增加所有轮次的聚合时间；其他的聚合算法，其思想基本上是牺牲了本地计算资源，增加本地客户端的训练次数以减少与高层节点的通信次数。然而这些都是在特定研究领域有一定的效果，并没有在根本上解决移动场景下联邦成员异步参与训练的问题。
[0006]综上，网络结构趋向于云边端分层的结构发展，端侧汇聚了大量用户数据，云侧能
接触到广泛的客户端，边侧具有丰富的计算资源和廉价的通信开销等优势，这促进了机器学习尤其是协同机器学习的发展，联邦学习的出现为机器学习提供了新范式，在数据敏感时代，它在不降低机器学习效率的同时保护了用户的隐私。传统联邦学习由于只有云端或者边端两层结构因而在很多移动性场景如车联网中表现不佳，并且传统的聚合算法采用同步参数更新模式，其收敛速度慢。因此，亟需一种新的移动车辆的异步联邦学习方法及系统。
[0007]通过上述分析，现有技术存在的问题及缺陷为：
[0008](1)现有云
‑
客户端的机器学习模型具有很高的时延成本和通信开销，在很多时间灵敏性网络场景中无法获得较好的性能。
[0009](2)现有的采用传统同步聚合算法的机器学习架构的联邦成员存在连接不稳定、连接异步的情况，无法解决联邦成员如何动态加入联邦聚合的问题。
[0010](3)传统联邦学习由于只有云端或者边端两层结构因而在很多移动性场景中表现不佳，并且传统的聚合算法采用同步参数更新模式，其收敛速度慢。
[0011](4)传统的联邦学习聚合算法大多是基于模型平均算法的思想，会增加所有轮次的聚合时间，牺牲本地计算资源，增加本地客户端的训练次数。
[0012](5)现有技术方案都是在特定研究领域有一定的效果，并没有在根本上解决移动场景下联邦成员异步参与训练的问题。
[0013]解决以上问题及缺陷的难度为：该方法需要设计一个分层分域的云边端联邦学习架构，其中边缘聚合和云端聚合算法的参数更新都需要采用异步接入方式；整个全局算法更新流程应该考虑到云边端三者的通信开销与本地计算资源之间的权衡。
[0014]解决以上问题及缺陷的意义为：该方法是在传统的联邦学习基础上做的优化，分层分域云边端联邦学习架构在保护用户隐私的同时完成了机器学习任务；利用云边端分层分域的关系，有效发挥云计算和边缘计算的优势，在分层的基础上引入“域”的概念，方便管理一个边缘服务器下模型参数的更新；本方法在设计中考虑了移动车辆的动态接入特征和资源开销情况，车辆的动态加入聚合过程是必然事件，通过权衡通信开销和计算资源的使用情况可以在网络流量压力和机器学习精度之间取得最优。

技术实现思路

[0015]针对现有技术存在的问题，本专利技术提供了一种移动车辆的异步联邦学习方法、系统、设备及终端，尤其涉及一种基于云边端网络分层分域架构下的移动车辆的异步联邦学习方法、系统、设备及终端。
[0016]本专利技术是这样实现的，一种移动车辆的异步联邦学习系统，所述移动车辆的异步联邦学习系统，包括用户层、域
‑
边缘服务器层和数据处理中心层。在整个系统中上述三层共同完成机器学习原始数据集的产生，模型训练，参数聚合和下发。
[0017]用户层，由车联网环境下众多车辆组成，车辆作为端设备，为机器学习提供原始训练数据和本地训练所需的计算资源；所述车辆在地理空间上被划分到多个域，同一个路侧单元信号覆盖范围内的车辆属于同一个域，并接受对应域服务器的管理；
[0018]域
‑
边缘服务器层，由网络边缘的服务器组成，在车联网环境中，所述服务器是为车辆提供服务的路侧单元或基站，所述边缘服务器与其域内的所有车辆用户频繁通信以更
新模型参数；对域服务器进行逻辑抽象，每一个域服务器都是一个逻辑客户端，仅对云中心可见。
[0019]云数据处理中心层，有整个网络的全局视图，提出异步聚合流程，各域
‑
边缘服务器将边侧模型聚合结果上传到云中心，云中心进行云侧全局模型聚合，大部分通信发生在云中心和逻辑客户端之间，“域”屏蔽底层车辆信息，真实客户端对云不可见也无需通信。
[0020]本专利技术的另一目的在于提供一种应用所述的移动车辆的异步联邦学习系统的移动车辆的异步联邦学习方法，所述移动车辆的异本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种移动车辆的异步联邦学习方法，其特征在于，所述移动车辆的异步联邦学习方法包括：初始时，本地车辆设备从所属域服务器获取机器学习初始参数或上一轮聚合结果，经过一定轮次本地机器学习训练后，车辆将模型梯度上传到所属域；边缘域服务器异步接收车辆上传的模型梯度后进行边缘聚合，域边缘服务器将聚合结果下发给域内所有车辆完成域内局部参数更新；同时域服务器将结果上传到云中心进行二次聚合，云端同样采用异步模式接收边缘服务器的模型梯度，云侧聚合完成后，向所有边缘服务器下发聚合结果，边缘服务器作为中间媒介下发参数给所有车辆完成全局参数更新；此时一轮全局训练过程结束，整个系统中异步接入模式构成一个闭环，一直持续上述过程，直至模型训练达到预设的精度或者整个算法收敛。2.如权利要求1所述的移动车辆的异步联邦学习方法，其特征在于，所述移动车辆的异步联邦学习方法包括以下步骤：步骤一，综合利用云计算和边缘计算，通过引入“域”的概念管理范围内的参数更新，并提出基于云边车的网络分层分域架构；步骤二，提出适用于所述基于云边车的网络分层分域架构的异步联邦学习聚合算法aFedV，并采用异步模式更新参数；步骤三，针对所述聚合算法和分层分级架构，在不同数据分布上开展实验，从模型训练准确率和通信开销方面验证aFedV算法的性能。3.如权利要求1所述的移动车辆的异步联邦学习方法，其特征在于，所述移动车辆的异步联邦学习方法，还包括分层分域模型的构建；其中，所述分层分域模型参数定义如下：云边端场景下有u个边缘域服务器，E＝{e1,e2,
…
,e
u
}表示u个边缘域服务器的集合，其中e
u
表示第u个边缘域服务器；s为域边缘服务器所在域，其中S＝{s1,s2,
…
,s
i
}表示所有域的集合；每个边缘域服务器覆盖范围内共有v个车辆，C＝{c1,c2,
…
,c
v
}表示这v个车辆的集合，其中c
v
表示第v个车辆，c
vi
表示第i个域内的第v个车辆，D
iv
表示第i个域内第v个车辆产生的训练样本，样本个数用d＝|D
iv
|表示；其中，所述分层分域的异步联邦学习流程参数，还包括：l为本地训练轮次索引，L为本地训练总轮次，m表示边缘聚合次数，n表示云端聚合次数，h为每执行h次本地机器学习向边缘服务器上传本地模型梯度，k为每执行k次边缘聚合执行一次云端聚合；假设当前有|S|个域，每个域下有一个路侧单元，通信覆盖范围内存在一个域
‑
边缘服务器e
u
，该域内车辆行驶路段为目标路段；由于RSU的传输半径远远大于道路宽度，因此忽略道路宽度并将底层路车模型简化为一维模型；在t时间段内，到达目标路段内车辆数量服从参数为λ的Poisson分布，即：其中，v表示时间λt内到达的车辆数量；车辆c
vi
参与本地深度学习训练更新通过迭
代l次找到更优的参数来最小化本地目标损失函数即：经过h次本地训练，车辆c
vi
将更新后的梯度上传至边缘域服务器e
u
执行边缘聚合，边缘聚合公式如下：其中，|C
i
|表示第i个域内车辆v总数，表示第i个域内第v个车辆拥有的训练样本数量；边缘服务器将更新后的梯度下发给域内所有车辆，车辆在进行本地参数更新的同时接受边缘服务器下发的梯度进行局部参数更新同时，每经过k轮边缘聚合，各边缘服务器将聚合得到的梯度上传至云服务器执行云端聚合，云端聚合公式如下：其中，|s|表示域i的总个数；云端使用聚合结果更新云端模型，云服务器最小化全局损失函数公式如下：将最优模型参数下发给各域内车辆后，本地车辆进行全局参数更新。4.如权利要求1所述的移动车辆的异步联邦学习方法，其特征在于，所述移动车辆的异步联邦学习方法，还包括：针对分层分域联邦学习架构提出联邦成员异步连接的问题，在车联网环境中，车辆动态参与联邦学习会影响聚合过程和训练结果，建立该问题的模型，通过设计聚合算法解决该问题；分层分域场景中，采用两级模型聚合方式分别最小化本地损失函数和最小化全局损失函数，异步模式会减少整个算法的运行时间并最小化云边通信次数M
s
‑
c
和边端通信次数M
e
‑
...

【专利技术属性】
技术研发人员：陈晨，赵明，刘霄，赵玉娟，左锋锋，
申请(专利权)人：西安电子科技大学工程技术研究院有限公司，
类型：发明
国别省市：