当前位置: 首页 > 专利查询>东南大学专利>正文

一种基于快照提示的多任务时空预测方法技术

技术编号:42660968 阅读:20 留言:0更新日期:2024-09-10 12:18
本发明专利技术公开了一种基于快照提示的多任务时空预测方法,它结合了动态图预训练和与未来快照的多任务预测,由三个阶段组成:在预训练阶段,使用动态子图序列重新定义了预训练任务,并提出了基于自监督训练的多粒度演化图卷积,从动态图中提取局部和全局特征。在提示阶段,引入了一种新颖的子图提示方法,其中包括前提图中节点和边缘的可训练提示,能够更好地捕获未来快照的演化信息。在微调阶段,利用元学习来更新子图提示参数,使得提示能够有效地适应多样的下游任务。对真实世界数据集进行的大量实验证明了本方法取得了最先进的性能。

【技术实现步骤摘要】

本专利技术涉及一种基于快照提示的多任务时空预测方法,属于计算机智能计算与运用。


技术介绍

1、时空图神经网络极大地推进了时空计算,例如交通流量预测、人类移动估计和末端物流预测。尽管传统的深度学习方法通过高效的优化算法展现出优越性,但在真实世界动态图建模中,监督学习方法通常由于缺乏标记数据而面临欠拟合问题。此外,分布之外的测试数据也会导致下游任务中低质量的推断结果。因此,“预训练和微调”范式被广泛认为是解决时空预测问题的有效方法,它使用自监督方式预训练一个完整的模型,然后对各种下游任务进行微调。然而,微调过程需要高计算成本,而且预文本和下游任务之间的差距通常会导致负迁移问题。受自然语言处理中提示学习的启发,基于提示的图方法引起了许多关注。它涉及冻结预训练模型,仅更新针对特定下游任务定制的轻量级提示的参数,从而实现对预训练模型更高效的适应。现有基于提示的图学习方法主要集中在静态图上,或者更加强调动态图中任务和节点提示,但忽视了动态图中每个时间戳上边的更新在学习中的关键作用。


技术实现思路

1、技术问题:为了通过提本文档来自技高网...

【技术保护点】

1.一种基于快照提示的多任务时空预测方法,其特征在于:包括预训练阶段、提示阶段和微调阶段,

2.如权利要求1所述一种基于快照提示的多任务时空预测方法,其特征在于:所述预训练阶段包括预训练任务、子图提示设计和动态图预训练,

3.如权利要求2所述一种基于快照提示的多任务时空预测方法,其特征在于:所述预训练任务首先在遍历动态图中的所有节点时识别出在子图上具有结构相似性的节点对"vi,v"%,其中vi表示节点i,v"表示节点j,其对应的动态子图序列表示为Gi和G",为确保了预训练任务所需的结构相似性,具体设置如下:使用k-ego图提取子图,节点vi的k跳邻居被定义为nv=...

【技术特征摘要】

1.一种基于快照提示的多任务时空预测方法,其特征在于:包括预训练阶段、提示阶段和微调阶段,

2.如权利要求1所述一种基于快照提示的多任务时空预测方法,其特征在于:所述预训练阶段包括预训练任务、子图提示设计和动态图预训练,

3.如权利要求2所述一种基于快照提示的多任务时空预测方法,其特征在于:所述预训练任务首先在遍历动态图中的所有节点时识别出在子图上具有结构相似性的节点对"vi,v"%,其中vi表示节点i,v"表示节点j,其对应的动态子图序列表示为gi和g",为确保了预训练任务所需的结构相似性,具体设置如下:使用k-ego图提取子图,节点vi的k跳邻居被定义为nv={n:d(n,vi)≤k,k∈n},其中d(n,vi)表示节点vi和邻居节点n之间的最短路径距离,对于每个节点vi,它的动态k-ego图序列表示为其次,由于节点之间的动态关系稀疏,通过将节点之间的静态(地理)关系纳入k-ego图的图结构中进行改进,具体如下:定义一种基于节点之间的静态关系的静态图其中,表示静态图中节点的集合,as表示静态图的邻接矩阵,从中提取节点vi的k-ego图然后将的边信息添加到中,完成动态k-ego图序列的构建。

4.如权利要求2所述一种基于快照提示的多任务时空预测方法,其特征在于:所述子图提示设计操作结合了预训练模型中的前提图的节点特征和边信息,以便提示未来t+1时刻的快照其中表示前提图中的节点集合,表示前提图的邻接矩阵,表示节点的特征向量集合,快照提示是将可学习的子图融入前提图的节点特征空间和边结构中,具体分为两步,一是将可学习特征集的元素分配给中对应的节点;二是将可学习邻接矩阵ap与的邻接矩阵进行融合,这个过程表达为:

5.如权利要求2所述一种基于快照提示的多任务时空预测方法,其特征在于:所述动态图预训练操作引入了多粒度演化图卷积用于动态图的预训练,以进行多任务时空预测,它包括局部特征过程提取和全局特征提取过程,为了提取局部依赖关系,...

【专利技术属性】
技术研发人员:王帅夏凯文林丽龚伟惠维
申请(专利权)人:东南大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1