一种基于Transformer_LSTM的船舶异常检测方法技术

本发明专利技术涉及一种基于Transformer_LSTM的船舶异常检测方法，属于计算机地理空间数据挖掘技术领域。首先根据原始AIS船舶数据获取时序轨迹数据，建立Transformer_LSTM模型作为异常检测模型，Transformer_LSTM模型采用VAE模型的编解码器架构，包括有Transformer_LSTM编码器和Transformer_LSTM解码器，Transformer_LSTM编码器采用Transformer_LSTM模块作为神经网络层，将输入的时序轨迹数据进行空间变换和特征映射，得到隐藏层数据，Transformer_LSTM解码器采用Transformer_LSTM模块作为神经网络层，将输入的隐藏层进行轨迹重构，得到重构轨迹数据，根据时序轨迹数据、重构轨迹数据计算出重构误差，基于重构误差计算出重构概率，将重构概率小于异常概率阈值的轨迹数据判定为异常轨迹数据，该模型能充分利用轨迹时序信息、避免特征提取过程中的梯度消失。避免特征提取过程中的梯度消失。避免特征提取过程中的梯度消失。

【技术实现步骤摘要】
一种基于Transformer_LSTM的船舶异常检测方法


[0001]本专利技术涉及一种基于Transformer_LSTM的船舶异常检测方法，属于计算机地理空间数据挖掘


技术介绍

[0002]随着多源传感器和无线网络通信等技术的发展，海量轨迹大数据知识挖掘成为了智慧交通、智慧海洋等新型服务体系建设的研究热点。船舶轨迹数据规模持续增长并呈现出不确定性、稀疏性等问题，海洋安全与风险问题愈发突出。为了避免潜在海上事故，确保海洋航运安全，提升海洋态势感知能力，对船舶进行实时监控并对异常行为做出主动响应，建立高效精准的船舶异常检测系统非常重要。
[0003]船舶自动识别系统(Automatic Identification System，AIS)是船舶行为分析和海上执法监督的主要数据源，船舶异常检测作为保障海洋安全的先决条件，如何从海量轨迹数据中挖掘出异常的数据模式，构建智能高效的船舶异常检测模型成为关键。现有的船舶轨迹异常检测相关研究方法主要集中在基于统计学、基于邻近度、基于时序预测、基于轨迹重构等算法模型。随着硬件设备的发展，以循环神经网络(Recurrent Neural Network，RNN)、长
‑
短期记忆(Long short
‑
term memory，LSTM)等为代表的深度学习模型被广泛用于时序数据的异常检测中。该类基于RNN及其衍生模型的方法能有效处理时序数据关系，但该类方法需要标注海量数据集，存在计算资源消耗大、数据特征损耗严重等问题，处理过程较为繁琐，且随着网络层数增多会产生梯度消失或爆炸问题。

技术实现思路

[0004]本专利技术的目的是提供一种基于Transformer_LSTM的船舶异常检测方法，用以解决现有的异常检测方法处理海量数据时数据特征损耗严重、使用的模型梯度容易出现消失、过拟合的问题。
[0005]为实现上述目的，本专利技术的方案包括：
[0006]本专利技术的一种基于Transformer_LSTM的船舶异常检测方法，包括以下步骤：
[0007]1)获取原始AIS船舶数据，对原始AIS船舶数据进行预处理，得到时序轨迹数据集；
[0008]2)建立Transformer_LSTM模型作为异常检测模型，所述Transformer_LSTM模型采用VAE模型的编解码器架构，包括有Transformer_LSTM编码器和Transformer_LSTM解码器，Transformer_LSTM编码器采用Transformer_LSTM模块作为神经网络层，用于将输入的时序轨迹数据进行空间变换和特征映射，得到隐藏层数据，Transformer_LSTM解码器采用Transformer_LSTM模块作为神经网络层，用于将输入的隐藏层进行轨迹重构，得到重构轨迹数据；
[0009]3)根据时序轨迹数据、重构轨迹数据计算出重构误差，基于重构误差计算出重构概率，将重构概率小于异常概率阈值的轨迹数据判定为异常轨迹数据。
[0010]有益效果：本专利技术的船舶异常检测方法，通过异常检测模型输出的重构轨迹数据
和输入前的时序轨迹数据之间的计算，进而判断异常轨迹，本专利技术的异常检测模型采用Transformer_LSTM模型，其中该模型采用VAE模型的编解码器架构，包括Transformer_LSTM编、解码器，其中Transformer_LSTM编、解码器采用Transformer_LSTM模块作为神经网络层，输入的时序轨迹数据数据通过Transformer_LSTM编码器进行空间变换和特征映射以获得隐层变量，在通过Transformer_LSTM解码器完成隐层变量的重构，进而实现了对时序轨迹数据的重构。异常数据在空间变换和特征映射时会丢失大量信息，因此通过计算出重构误差，基于重构误差计算出重构概率，即可判断出异常轨迹数据，该检测方法判断准确可靠，该模型能充分利用轨迹时序信息、避免特征提取过程中的梯度消失。
[0011]进一步地，Transformer_LSTM模块包括LSTM循环单元，所述LSTM循环单元中嵌入有Transformer模块。
[0012]有益效果：综合Transformer的并行处理机制和注意力机制以及LSTM循环单元的优势，充分利用循环结构捕获长期信息，显著降低了模型的操作成本和运算复杂度。
[0013]进一步地，Transformer模块采用缩放点积注意力机制。
[0014]进一步地，预处理步骤包括：根据研究区域限定原始AIS船舶数据的数据空间范围，去除轨迹数据中轨迹点少于设定数量的轨迹数据，根据处理后的轨迹数据构建轨迹段，并按照时间顺序进行排列得到初始时序轨迹数据集。
[0015]有益效果：限定原始AIS船舶数据的数据空间范围，避免数据空间范围过大出现数据干扰，输入长度过短的轨迹序列数据不利于时序信息的提取与时序关系的捕捉，因而去除轨迹数据中轨迹点少于设定数量的轨迹数据，保证数据时序信息提取有效性。
[0016]进一步地，对初始时序轨迹数据集处理的步骤包括：对汇报时间间隔大于第一间隔阈值的初始时序数据进行分割，并将分割后的数据按照第二时间间隔进行重采样。
[0017]有益效果：轨迹序列数据的输入长度与时序信息提取效率有一定的相关性，长度太长则可能造成冗余，因此将过长的轨迹序列数据进行分割，避免信息提取效率过低。
[0018]进一步地，处理后的初始时序轨迹数据集进行标准化处理，对标准化的数据进行归一化处理得到时序轨迹数据集。
[0019]进一步地，异常概率阈值为多个时序轨迹数据的概率分布的平均值，所述时序轨迹数据的概率分布为每一维度时序轨迹数据的特征属性所得到的概率分布，概率分布根据Transformer_LSTM编码器输出的每一维特征属性的均值和方差计算得到。
附图说明
[0020]图1是本专利技术实例提供的Transformer_LSTM编解码器模型船舶异常检测架构；
[0021]图2是本专利技术实例提供的多头注意力机制架构；
[0022]图3是本专利技术实例提供的LSTM单元网络结构；
[0023]图4是本专利技术实例提供的Transformer
‑
LSTM编解码器模型；
[0024]图5(a)是本专利技术实例提供的Transformer
‑
LSTM模块的水平方向结构；
[0025]图5(b)是本专利技术实例提供的Transformer
‑
LSTM模块垂直方向结构；
[0026]图6是本专利技术实例提供的多模型异常检测结果对比图；
[0027]图7是本专利技术实例提供的输入模型长度与模型精度关系折线图；
[0028]图8是本专利技术实例提供的多模型异常检测结果对比图。
具体实施方式
[0029]下面结合附图对本专利技术做进一步详细的说明。
[0030]基于Transformer_LSTM的船舶异常检测方法实施例：
[0本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于Transformer_LSTM的船舶异常检测方法，其特征在于，包括以下步骤：1)获取原始AIS船舶数据，对原始AIS船舶数据进行预处理，得到时序轨迹数据；2)建立Transformer_LSTM模型作为异常检测模型，所述Transformer_LSTM模型采用VAE模型的编解码器架构，包括有Transformer_LSTM编码器和Transformer_LSTM解码器，Transformer_LSTM编码器采用Transformer_LSTM模块作为神经网络层，用于将输入的时序轨迹数据进行空间变换和特征映射，得到隐藏层数据，Transformer_LSTM解码器采用Transformer_LSTM模块作为神经网络层，用于将输入的隐藏层进行轨迹重构，得到重构轨迹数据；3)根据时序轨迹数据、重构轨迹数据计算出重构误差，基于重构误差计算出重构概率，将重构概率小于异常概率阈值的轨迹数据判定为异常轨迹数据。2.据权利要求1所述的基于Transformer_LSTM的船舶异常检测方法，其特征在于，Transformer_LSTM模块包括LSTM循环单元，所述LSTM循环单元中嵌入有Transformer模块。3.据权利要求2所述的基于Transformer_LSTM的船...

【专利技术属性】
技术研发人员：李可欣，郭健，葛文，李冉冲，成毅，王宇君，李宗明，缪坤，陈辉，
申请(专利权)人：中国人民解放军战略支援部队信息工程大学，
类型：发明
国别省市：