面向图结构数据的联邦元学习方法技术

本发明专利技术涉及一种面向图结构数据的联邦元学习方法。该方法将各个客户端图拓扑结构不同的数据当成元学习中不同的训练任务，提出能快速适应不同图拓扑结构数据的图联邦元学习（FedGM）。本发明专利技术的训练流程包括联邦元训练和本地元测试，联邦元训练阶段，本发明专利技术通过编解码器来将不同客户端不同节点数的数据映射到统一大小，为了加快收敛速度，进而提出编解码器均值聚合方法，客户端在完成本地训练时只上传编解码器参数均值，服务器平均聚合上传的均值得到最佳的初始化均值。元测试阶段，各个客户端使用元学习模型初始化本地模型，使用本地数据训练本地模型可以快速得到更精确的预测模型。模型。模型。

【技术实现步骤摘要】
面向图结构数据的联邦元学习方法


[0001]本专利技术涉及一种面向图结构数据的联邦元学习方法。

技术介绍

[0002]图结构数据是由图拓扑连接数据节点的数据样本，是一种常见的数据类型，例如，网络流量、交通流等都可以表示为图结构数据。使用图结构数据来训练机器学习模型可以提取到节点之间的空间相关性，从而提升精度。使用图结构数据训练的神经网络被叫做图神经网络。训练图神经网络需要大量的数据，随着智能设备的发展，这些数据往往分散存储在各个边缘智能设备上，由于通信带宽和隐私限制，很难收集这些数据来训练神经网络。
[0003]为此，作为一种能在不传输数据的前提下完成机器学习模型训练的训练方法，联邦学习被引入到图神经网络的训练，被叫做联邦图机器学习(FederatedGraphMachine Learning，FGML)。然而，联邦图机器学习可能面临更严峻的数据异质性挑战。参与联邦图机器学习的不同客户端数据可能持有不同拓扑结构的数据，比如在交通流预测里，分管一片区域的机构在这片区域的道路上部署道路传感器，收集交通流信息，并利用这些数据参与联邦学习，而另本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种面向图结构数据的联邦元学习方法，其特征在于，包括如下步骤：步骤S1、各个客户端构造本地图结构数据，确认参与后续联邦元训练，进行步骤S2；步骤S2、服务器设计元学习模型特征提取网络部分并随机初始化，随机初始化编解码器的均值，设计训练的超参数，服务器将特征提取网络、均值和超参数发送给客户端，进行步骤S3；步骤S3、客户端构造本地编解码器，使用下载的编解码器均值初始化，加到下载的元学习模型特征提取网络构造本地模型，进行步骤S4；步骤S4、客户端使用本地数据依据步骤S2的超参数训练本地模型，进行步骤S5；步骤S5、客户端将编码器和解码器权重、偏差分别求平均，上传均值和本地模型特征提取网络部分，进行步骤S6；步骤S6、服务器平均聚合上传的均值和其它模型参数，发给各个客户端，如果模型未收敛，进行步骤S3，如果模型已经收敛，进行步骤S7；步骤S7、客户端构造本地编解码器，使用下载的编解码器均值初始化，加到下载的元学习模型特征提取网络构造本地模型，再使用本地数据训练本地模型，收敛后停止训练。2.根据权利要求1所述的面向图结构数据的联邦元学习方法，其特征在于，在所述步骤S1中，客户端构造的本地图结构数据具有时空结构，一个客户端所持有的数据图拓扑结构相同，但是节点值会随时间变化。3.根据权利要求1所述的面向图结构数据的联邦元学习方法，其特征在于，在所述步骤S2中，所述元学习模型特征提取网络需要能提取数据的时空相关性，能学习不同图拓扑结构数据的共同特征，其输入输出数据维度大小相同。4.根据权利要求1或2所述的面向图结构数据的联邦元学习方法，其特征在于，所述元学习模型特征提取网络采用Transformer网络。5.根据权利要求1所述的面向图结构数据的联邦元学习方法，其特征在于，在所述步骤S2中，所述超参数包括本地训练轮数E，表示客户端使用本地数据训练模型的全部轮数，训练的批次大小B，表示客户端本地训练时对本地数据集进行划分的批次大小...

【专利技术属性】
技术研发人员：冯心欣，刘舜键，郭俊鑫，郑海峰，
申请(专利权)人：福州大学，
类型：发明
国别省市：