当前位置: 首页 > 专利查询>重庆大学专利>正文

基于注意力改进的交通预测方法及计算机介质技术

技术编号:32224331 阅读:22 留言:0更新日期:2022-02-09 17:29
本发明专利技术属于智能交通技术领域,具体公开了一种基于注意力改进的交通预测方法及计算机介质,该方法利用全连接层计算注意力参数,随机采样注意力参数,计算每组采样的注意力参数中的分布与平均分布的KL散度值,根据每组注意力参数中的KL散度值,获取注意力参数的概率分布与均匀分布之间的差值Top

【技术实现步骤摘要】
基于注意力改进的交通预测方法及计算机介质


[0001]本专利技术属于智能交通
,涉及一种基于注意力改进的交通预测方法及计算机介质。

技术介绍

[0002]建立智能交通系统(ITS)正成为现代交通研究的关键,其中交通预测发挥着至关重要的作用,具有广泛的应用前景,如优化交通道路使用分配、提前规划客户路线、引导道路建设等。
[0003]随着交通检测器和传感器在城市道路网络上的大量使用,现代交通系统累计了大量历史数据,动态变化的交通系统中产生的大量数据中隐藏着丰富的信息和规律性。人们提出并研究了许多基于历史路网信息的模型,其中主要研究的是如何通过新的方法建立时间序列模型,并利用路段节点的空间关系。传统方法主要有卡尔曼滤波器和统计学模型,最新的方法主要是采用人工智能。
[0004]现实世界的交通系统,受到许多因素的影响,例如非线性和非平稳的交通数据、天气和事件等。从而难以挖掘空间和时间特征,现有的挖掘方法有,例如,空间状态神经网络SSNN,其目的是为了寻找基于一阶上下文记忆的时空关系;深度时空卷积DSTCN,利用卷积神经网络CNN探本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于注意力改进的交通预测方法,其特征在于,包括如下步骤:输入观测的交通数据,依次经过全连接层和注意力层,计算注意力参数;随机采样注意力参数,计算每组采样的注意力参数中的分布与平均分布的KL散度值;根据每组注意力参数中的KL散度值,获取注意力参数的概率分布与均匀分布之间的差值Top

u;根据差值Top

u,获取差值最大的多个注意力参数;使用一个4维的张量Φ∈R
B
×
T
×
N
×
N
对获取的注意力参数同时进行空间和时间上的卷积,将卷积后的注意力参数输入全连接层,输出预测交通流量,其中,R表示实数张量矩阵,B为mini

batch维度,T为时间维度,N
×
N为空间上的邻接矩阵维度。2.如权利要求1所述的基于注意力改进的交通预测方法,其特征在于,计算注意力的值的方法:定义一种基于(Q,K,V)三矩阵输入的规范自注意力:其中,Q,K,V表示张量矩阵;Softmax()为分类函数,表示使用Q矩阵乘以K矩阵的转置;对应的维度为L
Q
,L
K
,L
V
分别表示Q,K,V的中间维度,R表示实数张量矩阵,L表示维度,d为输入的维度;使用q
i
,k
i
,v
i
分别代表矩阵Q,K,V中的第i行,第i个注意力参数表示为:其中,概率概率p(k
j
∣q
i
)表示第i个query中在key中的注意力,V
j
为矩阵V中的向量。3.如权利要求1所述的基于注意力改进的交通预测方法,其特征在于,计算KL散度值的方法如下:对注意力参数进行归一化处理,基于均匀分布的注意力参数理论值为当概率时,注意力参数变为对矩阵V的平均求和;对概率p和注意力参数理论值q进行比较得出差值,设置阈值h,当该差值大于阈值h,筛选出重要的概率p,使得Q矩阵变为稀疏矩阵:选出重要的概率p,使得Q矩阵变为稀疏矩阵:是一个和Q相同大小的矩阵,其中只包含由计算得到差值超过阈值h的注意力参
数,其余注意力参数设为0,概率p与注意力参数q之间的KL散度值:4.如权利要求3所述的基于注意力改进的交通预测方法,其特征在于,所述获取注意力参数的概率分布与均匀分布之间的差值Top

u的方法如下:对原始矩阵Q中的值进行采...

【专利技术属性】
技术研发人员:曾博葛亮周庆黎森文林永全
申请(专利权)人:重庆大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1