【技术实现步骤摘要】
本专利技术涉及交通流量预测领域，具体地说是一种基于先验注意力机制的个性化联邦学习的交通流量预测方法。
技术介绍
1、交通流量预测是智能交通系统中重要的一部分，其预测的高准确性可以为交通管理者提供有力的交通决策依据，同时也可以让驾驶员选择更为畅通的道路出行，进而避免或缓解交通拥堵的状况。但这些数据往往属于不同管理机构，且具有高隐私特征，致使数据无法集中存储和训练，数据孤岛的现象便由此而生。传统统计学方法、机器学习、简单的深度学习神经网络无法直接实现基于隐私保护的预测；除此之外，因为不同来源产生了复杂的内部依赖关系，比如一个交通序列内的时间相关性，以及相互依赖关系，比如众多相关交通序列之间的空间相关性，例如，用于交通流量和交通速度预测的不同环路检测器/交叉口，以及用于乘客需求预测的不同车站/地区；所以交通流量通常表现出高度非线性和复杂的模式，而现有的交通流预测方法大多缺乏对交通数据动态时空相关性的建模能力，无法得到令人满意的预测结果。
2、联邦学习旨在解决在分布式数据环境下的隐私和安全问题，可以有效解决上述挑战。联邦学习通过在本地设备上进行模型训练，只在模型参数以及隐特征级别上进行通信，从而避免了原始数据的集中存储和传输。这种分布式学习方法可以保护用户的隐私，同时允许模型从多样化的数据中受益。然而，这种方法的准确性会受到数据异质性的影响。为了解决这个问题，目前有两种思路：1.学习一个强大的全局模型，以便将来对单个客户进行个性化处理或提高局部模型的自适应性能；2.为每一个客户端学习个性化地方模型。
3、然而现有
技术实现思路
1、本专利技术是为了解决上述现有技术存在的不足之处，提出一种基于先验注意力机制的个性化联邦学习的交通流量预测方法，以期能高效利用动态时空相关性和客户端之间的相关性，在改善联邦学习数据异质性问题的同时，还能保障每个客户端的数据隐私，并能提高每个客户端个性化交通流量预测的准确性。
2、本专利技术为达上述专利技术目的，采用如下技术方案：
3、本专利技术一种基于先验注意力机制的个性化联邦学习的交通流量预测方法的特点在于，是应用于一个中央服务器和n个客户端{c1,c2,...,cn,...,cn}所组成的联邦学习场景中，其中，cn表示第n个客户端，每个客户端上分别设置有一个交通流量传感器用于获取私有数据集，且第n个客户端cn上的私有数据集记为其中，分别表示第n个客户端cn在第t个时间点的交通流量数据和真实标签；所述交通流量预测方法是按如下步骤进行：
4、步骤1、定义全局训练的当前轮次为e，并初始化e＝0；最大全局训练轮次数为emax；
5、步骤2、定义第e轮全局训练的编码器模型和解码器模型其中，和分别表示部署在第n个客户端cn的第e轮全局训练下的编码器模型和解码器模型；且由k个门控循环单元神经网络构成，记为其中，表示部署在第n个客户端cn的第e轮全局训练下的编码器模型的第k个门控循环单元神经网络；由h个门控循环单元神经网络构成，记为其中，表示部署在第n个客户端cn的第e轮全局训练下的解码器模型的第h个门控循环单元神经网络；
6、步骤3、所述中央服务器将第e轮全局训练的编码器聚合参数以及解码器聚合参数拆分后分别对应发送给n个客户端，其中，表示第n个客户端cn的第e轮全局训练下的编码器模型的编码器模型参数，且其中，表示部署在第n个客户端cn的第e轮全局训练下的编码器模型的第k个门控循环单元神经网络的参数；表示第n个客户端cn的第e轮全局训练下的解码器模型的解码器模型参数，且其中，表示部署在第n个客户端cn的第e轮全局训练下的解码器模型的第h个门控循环单元神经网络的参数；
7、步骤4、n个客户端{c1,c2,...,cn,...,cn}接收由中央服务器下发的对应的编码器参数和解码器参数，并结合私有数据集在编码器模型上训练，得到n个第e轮全局训练的时间注意力矩阵并将得到的n个第e轮全局训练的交通流量传递状态上传到中央服务器；
8、步骤5、中央服务器根据n个第e轮全局训练的交通流量传递状态计算第e轮全局训练下的空间相关性处理后的交通流量总传递状态并依次下发到对应的客户端{c1,c2,...,cn,...,cn}；
9、步骤6、n个客户端{c1,c2,...,cn,...,cn}接收交通流量总传递状态并计算第e轮全局训练的未来h个时间戳的交通流量数据的预测值；
10、步骤7、根预测值和真实值计算损失函数，并对第n个客户端cn第e轮全局训练的编码器模型参数和解码器模型参数进行更新，得到第n个客户端cn第e+1轮全局训练的编码器模型参数和解码器模型参数
11、步骤8、将e+1赋值给e，返回步骤2顺序执行，直到e＞emax为止；从而得到所述中央服务器和n个客户端{c1,c2,...,cn,...,cn}协同训练后第emax轮全局训练的编码器聚合参数以及解码器聚合参数并分别发送给对应的客户端，第n个客户端cn利用训练好的参数所对应的编码器模型和解码器模型实现交通流量的预测。
12、本专利技术所述的一种基于先验注意力机制的个性化联邦学习的交通流量预测方法的特点也在于，所述步骤4包括：
13、步骤4.1、第n个客户端cn使用私有数据集dn和编码器模型参数在编码器模型上训练，得到第n个客户端cn在第e轮全局训练的第k个交通流量输入状态和交通流量单时间状态从而得到第n个客户端cn在第e轮全局训练的所有交通流量状态并将和作为第n个客户端cn在第e轮全局训练的交通流量传递状态上传到中央服务器：
14、
15、式(1)中，表示第n个客户端cn的私有数据集dn中第t-k+k-1个时间戳的交通流量数据；当k＝1时，令是全零向量；
16、步骤4.2、利用皮尔逊相关系数法计算第n个客户端cn在第e轮全局训练的交通流量单时间全状态之间的相关性，得到第n个客户端cn在第e轮全局训练的相关系数矩阵
17、步骤4.3、根据式(2)得到第n个客户端cn在第e轮全局训练的mask值
18、
19、式(2)中，表示第n个客户端cn在第e轮全局训练的相关系数矩阵上第i行第j列值的绝对值；表示第n个客户端cn在第e轮全局训练的mask值上第i行第j列值；是设定的阈值；
20、步骤4.4、根据式(3)得到第n个客户端cn在第e轮全局训练的注意力分数
21、
22、式(3)中，和表示第n个客户端cn在第e轮全局训练的待学习参数；t表示转置；表示的维度；
23、步骤4.5、根据式(4)得到第n个客户端cn在第e轮全局训练的时间注意力矩阵其中，表示第n个客户端cn在第e轮全局训练下进行时间相关性处理后的第k个交通流量单时间状态；
24、
25、式(4)中，表示第n本文档来自技高网...
【技术保护点】
1.一种基于先验注意力机制的个性化联邦学习的交通流量预测方法，其特征在于，是应用于一个中央服务器和N个客户端{C1,C2,...,Cn,...,CN}所组成的联邦学习场景中，其中，Cn表示第n个客户端，每个客户端上分别设置有一个交通流量传感器用于获取私有数据集，且第n个客户端Cn上的私有数据集记为其中，分别表示第n个客户端Cn在第t个时间点的交通流量数据和真实标签；所述交通流量预测方法是按如下步骤进行：
2.根据权利要求1所述的一种基于先验注意力机制的个性化联邦学习的交通流量预测方法，其特征在于，所述步骤4包括：
3.根据权利要求2所述的一种基于先验注意力机制的个性化联邦学习的交通流量预测方法，其特征在于，所述步骤5包括：
4.根据权利要求3所述的一种基于先验注意力机制的个性化联邦学习的交通流量预测方法，其特征在于，所述步骤6包括：
5.根据权利要求4所述的一种基于先验注意力机制的个性化联邦学习的交通流量预测方法，其特征在于，所述步骤6.2包括：
6.根据权利要求5所述的一种基于先验注意力机制的个性化联邦学习的交通流量预
7.一种电子设备，包括存储器以及处理器，其特征在于，所述存储器用于存储支持处理器执行权利要求1-6中任一所述交通流量预测方法的程序，所述处理器被配置为用于执行所述存储器中存储的程序。
8.一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，其特征在于，所述计算机程序被处理器运行时执行权利要求1-6中任一所述交通流量预测方法的步骤。
...【技术特征摘要】
1.一种基于先验注意力机制的个性化联邦学习的交通流量预测方法，其特征在于，是应用于一个中央服务器和n个客户端{c1,c2,...,cn,...,cn}所组成的联邦学习场景中，其中，cn表示第n个客户端，每个客户端上分别设置有一个交通流量传感器用于获取私有数据集，且第n个客户端cn上的私有数据集记为其中，分别表示第n个客户端cn在第t个时间点的交通流量数据和真实标签；所述交通流量预测方法是按如下步骤进行：
2.根据权利要求1所述的一种基于先验注意力机制的个性化联邦学习的交通流量预测方法，其特征在于，所述步骤4包括：
3.根据权利要求2所述的一种基于先验注意力机制的个性化联邦学习的交通流量预测方法，其特征在于，所述步骤5包括：
4.根据权利要求3所述的一种基于...
【专利技术属性】
技术研发人员：柴一栋，黄阿美，刘依，刘龙顺，潘岳，陈钰莹，刘昊鑫，周芦娟，周安琪，杨兴革，姜元春，刘业政，
申请(专利权)人：合肥工业大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。