一种基于Transformer的四维航迹长时预测方法及其装置制造方法及图纸

本发明专利技术公开了一种基于Transformer的四维航迹长时预测方法及其装置，方法包括以下步骤：（1）基于ENU坐标转换对数据进行预处理，并利用滑动窗口构造样本数据，同时按比例划分训练集、验证集和测试集；（2）构建基于Transformer的航迹预测模型，包括历史航迹平稳化模块、历史航迹编码模块、航迹预测解码模块和未来航迹平稳化模块，所述航迹预测解码模块采用一次预测完成航迹预测；（3）使用目标函数和所述训练集训练所述航迹预测模型；（4）从ADS

【技术实现步骤摘要】
一种基于Transformer的四维航迹长时预测方法及其装置


[0001]本专利技术属于民航
，特别涉及一种基于Transformer的四维航迹长时预测方法及其装置。

技术介绍

[0002]在世界范围内，航空运输业快速发展，空中交通需求急剧增加，这可能导致更加拥挤的空域空间以及航班安全问题。为了改善空域状态以及保障航空运输效率，许多国家和组织开始了空中交通系统项目的研究与升级。这些新一代空管自动化系统都将基于四维航迹的运行（TBO）作为空中航行系统的核心技术。基于航迹的运行模式建立在准确的航迹预测上，它是冲突检测、空域态势感知、飞行流量预测等空中管理研究的基础，能够降低飞机未来飞行的不确定性，提升空中交通管制的管制效率。航迹预测对于空中交通运输业的运作、安全性和效率都具有重要的影响，是现代航空运输系统中不可或缺的一部分。
[0003]传统的轨迹预测模型比较简单，不能准确捕捉飞机的机动不确定性，会造成较大的误差。预测效果不稳定，另外一个缺点是，基于物理学的轨迹预测模型往往需要大量的先验知识和经验，包括气象、航空器动力学、飞行规则等。这些知识需要由专业人员提供，并且需要不断更新和完善，这会增加模型开发的成本和时间。此外，由于飞行器的运动状态和环境条件的不确定性，这些模型通常只能提供一定程度的预测精度，因此需要与其他技术和方法结合使用，才能实现更高精度和可靠性的轨迹预测。
[0004]现有的数据驱动的深度学习模型不能适用于长期轨迹预测，主要表现在现有的模型大都基于RNN循环神经网络，通过迭代预测来实现长期预测，并不能够一次性生成较长时间范围的轨迹，存在误差积累、梯度消失和梯度爆炸的问题，预测的轨迹越长，误差就越大。此外，基于RNN的模型训练时，当前时刻的特征输入还需要依赖上一时刻的输出，无法并行训练，训练效率低。
[0005]本方法基于Transformer模型，通过基于ENU坐标转换的数据预处理以及改进Transformer输出策略，解决了上述问题，并且提出对称式的稳定化模块来解决长序列预测任务中存在数据分布漂移问题，提高了航空四维轨迹预测任务中的长序列可预测性，在面对长时预测任务时，预测精度更高，并且模型在面对更加长时的预测仍表现较好的效果。

技术实现思路

[0006]本专利技术的目的在于克服现有深度学习模型在航迹预测的应用中所存在的误差累积、无法并行训练、数据分布漂移以及长距离依赖问题而导致在长序列预测时预测精度低的问题，提供一种基于Transformer的四维航迹长时预测方法及其装置。
[0007]为了实现上述专利技术目的，本专利技术提供了以下技术方案：一种基于Transformer的四维航迹长时预测方法，其特征在于，该方法包括如下步骤：S1，从ADS
‑
B系统获取原始航迹数据，基于所述原始航迹数据的ENU坐标转换完成
数据预处理，并采用滑动窗口构造为样本数据，将所述样本数据划分为训练集、验证集和测试集；S2，构建基于Transformer的航迹预测模型，所述航迹预测模型包括历史航迹平稳化模块、历史航迹编码模块、航迹预测解码模块和未来航迹平稳化模块，所述航迹预测解码模块采用一次预测完成航迹预测；S3，使用目标函数和所述训练集训练所述航迹预测模型，再使用所述验证集测试该模型得到测试结果，根据测试结果对超参数进行微调，得到训练完备的航迹预测模型；S4，从ADS
‑
B系统采集实时航迹数据，经所述数据预处理后输入所述训练完备的航迹预测模型，得到航迹预测结果。
[0008]作为本专利技术的优选方案，一种基于Transformer的四维航迹长时预测方法，步骤S1具体包括以下步骤：S11，对原始ADS
‑
B航迹数据进行数据清洗，并去除异常值，得到筛选后的数据，所述筛选后的数据包括经度、纬度、高度和时间戳的四维位置信息以及包括方位角、速度的附加信息；S12，用二次线性插值对所述筛选后的数据进行拟合，再以固定的时间间隔对拟合的数据重采样，获得具有固定时间间隔的离散时序数据；S13，将所述离散时序数据中的经度、纬度以及高度的GPS坐标转化为ENU坐标，得到预处理后的航迹数据；S14，基于所述预处理后的航迹数据，定义航迹点坐标p
i
= (e, n, u, v, h)，其中 e, n, u分别为该航迹点ENU坐标，v为速度，h为方位角；S15，设置窗口大小为t1的输入窗口T1，则输入窗口T1选取t1个连续的航迹点，即，作为历史航迹预测序列X，对应的，紧接在所述输入窗口T1后设置窗口大小为t2的预测窗口T2，则预测窗口T2选取t2个连续的航迹点，即，作为真实航迹预测序列Y，其中i∈[1,N],并以一个航迹点为步长同时移动输入窗口T1和预测窗口T2，每移动一步，将所选取的所述历史航迹预测序列X和真实航迹预测序列Y作为一组样本数据，移动N步得到N组训练样本数据；S16，将得到的N组训练样本数据划分为训练集、验证集和测试集。
[0009]作为本专利技术的优选方案，一种基于Transformer的四维航迹长时预测方法，步骤S2具体步骤为：S21，构建历史航迹平稳化模块，在所述历史航迹点序列输入历史航迹编码器之前，对所述历史航迹点序列进行平稳化操作，得到各属性维度平稳化后的航迹点序列X
′
；S22，将所述航迹点序列X
′
输入历史航迹编码器，分别对所述航迹点序列X
′
进行输入编码和位置编码计算，得到输入编码和位置编码并相加，得到具有位置信息的嵌入向量x
e
，对所述嵌入向量x
e
进行多头自注意力计算完成特征融合，得到所述特征融合后的特征向量X
C
，将所述特征向量X
C
接入后续层标准化模块、前馈神经网络、层标准化模块，得到语义向量C；S23，获取输入未来航迹解码器的位置编码并设置其长度，将设置后的位置编码输入所述解码器，再结合所述语义向量C完成初步航迹预测，得到初步预测航迹点序列y
′
；
S24，通过所述未来航迹平稳化模块对所述初步预测航迹点序列y
′
进行平稳化操作，得到最终预测航迹点序列。
[0010]作为本专利技术的优选方案，一种基于Transformer的四维航迹长时预测方法，步骤S21具体步骤包括：首先提取航迹点各个属性维度x
i
在当前所述历史航迹点序列下的均值和方差，再利用所述均值和方差对航迹点各维度的属性值进行归一化操作，计算公式为：；其中，x
i
′
为经过所述历史航迹平稳化模块处理后的航迹点各维度属性值，再由各维度属性值平稳化后的航迹点组成的航迹点序列X
′
作为所述历史航迹编码器输入。
[0011]作为本专利技术的优选方案，一种基于Transformer的四维航迹长时预测方法，步骤S23具体步骤包括：S231，基于位置编码公式设置位置编码长度与所述预测窗口T2大小保持一致，得到设置后的位置编码D
pos...

【技术保护点】

【技术特征摘要】
1.一种基于Transformer的四维航迹长时预测方法，其特征在于，该方法包括如下步骤：S1，从ADS
‑
B系统获取原始航迹数据，基于所述原始航迹数据的ENU坐标转换完成数据预处理，并采用滑动窗口构造为样本数据，将所述样本数据划分为训练集、验证集和测试集；S2，构建基于Transformer的航迹预测模型，所述航迹预测模型包括历史航迹平稳化模块、历史航迹编码模块、航迹预测解码模块和未来航迹平稳化模块，所述航迹预测解码模块采用一次预测完成航迹预测；S3，使用目标函数和所述训练集训练所述航迹预测模型，再使用所述验证集测试该模型得到测试结果，根据测试结果对超参数进行微调，得到训练完备的航迹预测模型；S4，从ADS
‑
B系统采集实时航迹数据，经所述数据预处理后输入所述训练完备的航迹预测模型，得到航迹预测结果。2.根据权利要求1所述的一种基于Transformer的四维航迹长时预测方法，其特征在于，步骤S1具体包括以下步骤：S11，对原始ADS
‑
B航迹数据进行数据清洗，并去除异常值，得到筛选后的数据，所述筛选后的数据包括经度、纬度、高度和时间戳的四维位置信息以及包括方位角、速度的附加信息；S12，用二次线性插值对所述筛选后的数据进行拟合，再以固定的时间间隔对拟合的数据重采样，获得具有固定时间间隔的离散时序数据；S13，将所述离散时序数据中的经度、纬度以及高度的GPS坐标转化为ENU坐标，得到预处理后的航迹数据；S14，基于所述预处理后的航迹数据，定义航迹点坐标p
i
= (e, n, u, v, h)，其中 e, n, u分别为该航迹点ENU坐标，v为速度，h为方位角；S15，设置窗口大小为t1的输入窗口T1，则输入窗口T1选取t1个连续的航迹点，即，作为历史航迹预测序列X，对应的，紧接在所述输入窗口后设置窗口大小为t2的预测窗口T2，则预测窗口T2选取t2个连续的航迹点，即，作为真实航迹预测序列Y，其中i∈[1,N],并以一个航迹点为步长同时移动输入窗口T1和预测窗口T2，每移动一步，将所选取的所述历史航迹预测序列X和真实航迹预测序列Y作为一组样本数据，移动N步得到N组训练样本数据；S16，将得到的N组训练样本数据划分为训练集、验证集和测试集。3.根据权利要求1所述的一种基于Transformer的四维航迹长时预测方法，其特征在于，步骤S2具体步骤为：S21，构建历史航迹平稳化模块，在所述历史航迹点序列输入历史航迹编码器之前，对所述历史航迹点序列进行平稳化操作，得到各属性维度平稳化后的航迹点序列X
′
；S22，将所述航迹点序列X
′
输入历史航迹编码器，分别对所述航迹点序列X
′
进行输入编码和位置编码计算，得到输入编码和位置编码并相加，得到具有位置信息的嵌入向量x
e
，对所述嵌入向量x
e
进行多头自注意力计算完成特征融合，得到所述特征融合后的特征向量X
C
，将所述特征向量X
C
接入后续层标准化模块、前馈神经网络、层标准化模块，得到语义向量C；
S23，获取输入未来航迹解码器的位置编码并设置其长度，将设置后的位置编码输入所述解码器，再结合所述语义向量C完成初步航迹预测，得到初步预测航迹点序列y
′
；S24，通过所述未来航迹平稳化模块对所述初步预测航迹点序列y
′
进行平稳化操作，得到最终预测航迹点序列。4.根据权利要求3所述的一种基于Transformer的四维航迹长时预测方法，其特征在于，步骤S21具体步骤包括：首先提取航迹点各个属性维度x
i...

【专利技术属性】
技术研发人员：刘洪，罗奥锋，陈虎，罗亚，
申请(专利权)人：四川大学，
类型：发明
国别省市：