【技术实现步骤摘要】
本专利技术涉及轨迹预测，尤其涉及一种基于注意力神经网络和生成对抗网络的轨迹预测方法。
技术介绍
1、随着互联网技术和通信技术的不断发展，gps定位的精度也不断提升，位置轨迹预测也开始成为重要的研究课题，位置轨迹预测应用非常广泛，预测任务通过观察场景中运动目标的历史轨迹信息来对其未来轨迹进行预测。因此，轨迹预测对提高用户服务质量和体验，加快构建智慧城市等具有深远意义。
2、但是，提供有效的位置预测技术是提高基于位置服务效益的关键。目前深度学习得到广泛关注，研究者开始将神经网络引入到序列预测中，生成对抗网络模型也越来越多地被应用在轨迹预测领域。然而，gps采集的位置轨迹数据，不可避免的存在数据质量差、数据稀疏性等问题。如果直接利用这些数据进行训练，模型无法充分挖掘出历史轨迹中隐含的用户特征。因此，提高预测数据的准确率是当前需要解决的难题。
技术实现思路
1、本专利技术的目的是提供一种基于注意力神经网络和生成对抗网络的轨迹预测方法，采用s-gan网络的基本结构来进行序列学习，改进了内部的池化模块。通过使用注意力网络，重建轨迹数据，丰富训练样本，提高模型的泛化能力；利用生成对抗网络对输入轨迹进行训练，通过不断的对抗博弈反向传播误差，计算合理的网络训练参数，使得生成器生成高精度且高合理性的轨迹。
2、为实现上述目的，本专利技术提供了一种基于注意力神经网络和生成对抗网络的轨迹预测方法，包括以下步骤：
3、s1、数据预处理：补全缺失轨迹数据，利用轨迹的自身特性
4、s2、轨迹预测。
5、优选的，在步骤s1数据预处理中，包括以下步骤：
6、s11、位置轨迹嵌入；
7、s12、利用注意力网络对稀疏轨迹数据进行数据增强，注意力网络包括当前轨迹注意力机制、历史轨迹注意力机制和时空注意力机制；
8、s13、轨迹恢复。
9、优选的，在步骤s11位置轨迹嵌入中，将时间和位置信息联合嵌入到数据集中，作为其他模块的输入，对于每一个位置l∈ζ，包括缺失的一个null，建立一个可训练的嵌入向量el∈rd，所有位置嵌入都表示为矩阵el∈r|ζ+1|×d，设置时间信息的嵌入，对每一个时间信息t，生成如下嵌入，公式如下：
10、et(2i)＝sin(t/100002i/d) (1)
11、et(2i+1)＝cos(t/100002i/d) (2)
12、其中i代表第i个维度，d代表与位置嵌入向量有相同的维度；对于第n天的每个时刻t，将时间信息和位置信息嵌入到单一向量中，记为公式如下：
13、
14、优选的，在步骤s12利用注意力网络对稀疏轨迹数据进行数据增强中，包括以下步骤：
15、s121、针对历史轨迹数据，对多个历史轨迹数据进行特征提取，用来捕捉周期性的特征，公式如下：
16、
17、其中，代表表示该时间段中被访问次数最多的位置，将每个轨迹映射成公式(3)中单一向量的形式；
18、通过多头注意力机制学习多种依赖关系，模拟轨迹间的时空关系，使用h个并行头部，在h项下，将时隙t与k表示为：
19、
20、
21、其中，是变换矩阵，为轨迹段内各个位置点间的注意力关系；
22、根据时间的位置关系，生成需要的时间代表向量，表示如下：
23、
24、其中，也是一个变换矩阵，通过不同的组合来学习时空的依赖性，定义如下：
25、
26、其中，||表示结合运算符，h为注意力头的数量；
27、s122、针对当前轨迹数据，将当前轨迹时间空间信息嵌入到一空间向量中，对加入多头注意力机制，得到带有注意力增强的轨迹
28、优选的，在步骤s13轨迹恢复中，包括以下步骤：
29、s131、利用轨迹间注意力机制得到两者的相似度β，公式如下：
30、
31、其中，st,k表示为：
32、
33、s132、根据得到的相似度向量，依据如下公式更新当前轨迹下的位置向量信息：
34、
35、
36、其中，均为变换矩阵；通过融合历史轨迹信息和当前时空依赖性的轨迹得到恢复丢失位置。
37、优选的，在步骤s2轨迹预测中，包括以下步骤：
38、s21、将注意力网络恢复的轨迹序列进行划分，抽取为历史训练序列和真实轨迹序列，将历史训练数据输入到生成器中，得到预测轨迹序列；
39、s22、将历史训练序列与真实轨迹序列进行拼接的数据和历史训练序列与预测轨迹序列拼接得到的数据，输入到判别器中，将生成器生成的样本输入到基于lstm的编码器中，通过网络的不断学习，通过分类器，计算各轨迹点的评分大小；
40、s23、将步骤s22中得到的结果输入到判别器的损失函数中，进而计算得到(g)差值损失，选择优化算法反向传播来更新判别网络的权重参数；
41、s24、重复前上述步骤，实现判别器和生成器的交替训练，通过反向传播不断修正生成器和判别器的网络参数，最终使得损失函数值达到稳定，生成器和判别器之间达到纳什均衡，模型能够预测出接近真实轨迹的数据。
42、优选的，在步骤s21中，包括以下步骤：
43、s211、通过编码器将通过数据预处理得到的恢复轨迹与lstm上一状态得到的进行编码，学习轨迹的时序特征，得到每个用户的隐藏特征公式如下：
44、
45、其中，wencoder表示使用lstm进行编码计算时的权重参数。
46、s212、将编码器得到的隐藏向量和随机噪声z合并成特征向量作为解码器的初始输入，公式如下：
47、
48、式中，ψ代表带有激活函数的全连接神经网络，wψ为该网络的权重参数；
49、s213、通过解码器得到预测的轨迹，预测t时刻的轨迹位置，将t-1时刻的位置变化特征向量与t-1时刻的隐藏特征向量共同输入lstm网络得到当前的隐藏特征通过一个全连接网络转化得到预测的轨迹位置公式如下：
50、
51、
52、其中，ψ表示带有激活函数的全连接神经网络，wγ为该网络的权重参数。
53、优选的，在步骤s23中，an-gan中生成对抗网络模块的损失函数主要分为两部分，一是生成器与判别器的对抗损失值(g，d)，另一个是用户真实轨迹向量与生成器预测轨迹向量之间的差值损失(g)；an-gan每次从k个结果中选出误差最小的值，相关公式如下：
54、
55、
56、
57、其中，λ代表(g)的权重，起到平衡的作用。
58、优选的，轨迹预测模型主要分为两部分：数据预处理模块和生成对抗网络模块：
59、数据预处理模块本文档来自技高网...
【技术保护点】
1.一种基于注意力神经网络和生成对抗网络的轨迹预测方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种基于注意力神经网络和生成对抗网络的轨迹预测方法，其特征在于，在步骤S1数据预处理中，包括以下步骤：
3.根据权利要求2所述的一种基于注意力神经网络和生成对抗网络的轨迹预测方法，其特征在于，在步骤S11位置轨迹嵌入中，将时间和位置信息联合嵌入到数据集中，作为其他模块的输入，对于每一个位置l∈ζ，包括缺失的一个null，建立一个可训练的嵌入向量el∈Rd，所有位置嵌入都表示为矩阵El∈R|ζ+1|×d，设置时间信息的嵌入，对每一个时间信息t，生成如下嵌入，公式如下：
4.根据权利要求2所述的一种基于注意力神经网络和生成对抗网络的轨迹预测方法，其特征在于，在步骤S12利用注意力网络对稀疏轨迹数据进行数据增强中，包括以下步骤：
5.根据权利要求2所述的一种基于注意力神经网络和生成对抗网络的轨迹预测方法，其特征在于，在步骤S13轨迹恢复中，包括以下步骤：
6.根据权利要求1所述的一种基于注意力神经网络和生成对抗网络的轨迹
7.根据权利要求6所述的一种基于注意力神经网络和生成对抗网络的轨迹预测方法，其特征在于，在步骤S21中，包括以下步骤：
8.根据权利要求6所述的一种基于注意力神经网络和生成对抗网络的轨迹预测方法，其特征在于，在步骤S23中，AN-GAN中生成对抗网络模块的损失函数主要分为两部分，一是生成器与判别器的对抗损失值另一个是用户真实轨迹向量与生成器预测轨迹向量之间的差值损失AN-GAN每次从k个结果中选出误差最小的值，相关公式如下：
9.根据权利要求1所述的一种基于注意力神经网络和生成对抗网络的轨迹预测方法，其特征在于，轨迹预测模型主要分为两部分：数据预处理模块和生成对抗网络模块：
...【技术特征摘要】
1.一种基于注意力神经网络和生成对抗网络的轨迹预测方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种基于注意力神经网络和生成对抗网络的轨迹预测方法，其特征在于，在步骤s1数据预处理中，包括以下步骤：
3.根据权利要求2所述的一种基于注意力神经网络和生成对抗网络的轨迹预测方法，其特征在于，在步骤s11位置轨迹嵌入中，将时间和位置信息联合嵌入到数据集中，作为其他模块的输入，对于每一个位置l∈ζ，包括缺失的一个null，建立一个可训练的嵌入向量el∈rd，所有位置嵌入都表示为矩阵el∈r|ζ+1|×d，设置时间信息的嵌入，对每一个时间信息t，生成如下嵌入，公式如下：
4.根据权利要求2所述的一种基于注意力神经网络和生成对抗网络的轨迹预测方法，其特征在于，在步骤s12利用注意力网络对稀疏轨迹数据进行数据增强中，包括以下步骤：
5.根据权利要求2所述的一种基于注意力神经网络和...
【专利技术属性】
技术研发人员：史伟，周雪阳，李俊燕，褚治广，张兴，
申请(专利权)人：辽宁工业大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。