一种基于Transformer-AdaRNN模型的船舶姿态实时预测方法技术

本发明专利技术公开了一种基于Transformer

【技术实现步骤摘要】
一种基于Transformer
‑
AdaRNN模型的船舶姿态实时预测方法


[0001]本专利技术属于深度学习和计算机视觉
，具体涉及一种基于Transformer
‑
AdaRNN模型的船舶姿态实时预测方法。

技术介绍

[0002]近年来，随着愈加成熟的现代科技和工业化的繁荣发展，船舶工业作为我国科技发展的重要部分，对于国家的经济发展、国家领土安全、对外交流和军事实力的提高有着重要的意义。我国在近几十年的时间里，船舶工业有了一个质的飞跃，不仅摆脱了以往的落后状态，而且在船舶的制造行业中逐渐有了重要地位。针对海上作业的实际需求，为提高作业的安全性，降低作业的事故率，很多国家都在大力开展船舶运动预报技术的研究，由于船舶实际运动受到波浪的影响，因此在这一研究中，对于波浪影响下的船舶运动进行快速而准确的求解便成为了重要一步。
[0003]受海风、海浪和海流等开放海域环境的影响，处于真实海面上的船舶会产生艏摇、横摇、纵摇、垂荡、横荡、纵荡这六种摇荡运动，这种由外界环境的扰动作用引起的船舶摇荡运动被定义为船舶六自由度运动。由于实际海况相当复杂，在实际航行过程中，这六种摇荡运动甚至还会相互耦合成更加复杂的运动。此外，海浪与海风的运动是多变且复杂的，在海上航行或停留在海面的船舶会受到许多来自海洋环境的随机干扰。在上述的六个自由度中，其中横摇运动对其在海中正常作业产生的影响最大。剧烈的升沉运动也会严重影响船舶间货物补给、工程船深海作业、舰载直升机起降等海上作业的正常进行，这种影响在恶劣海况下会更明显。
[0004]目前，船舶运动姿态预测方法主要分为三大类：数学模型、统计模型和机器学习模型。数学模型在建模过程中，需要依靠经验知识进行参数选择和干扰设置，导致建模过程不易实现，预测误差较大。统计方法的建立需要大量准确的输入输出数据，计算繁琐。机器学习方法也有着很广泛的应用，长短期记忆神经网络，双向长短期记忆模型等神经网络模型方法。但是单一的神经网络模型对于船舶的姿态预测能力有限。

技术实现思路

[0005]针对上述研究的问题，本专利技术的目的在于：为了充分开发神经网络的处理能力，提高船舶姿态的预测效果，提出了一种基于Transformer
‑
AdaRNN模型的船舶姿态实时预测方法。
[0006]为了解决上述技术问题，本专利技术采用的技术方案如下：
[0007]一种基于Transformer
‑
AdaRNN模型的船舶姿态实时预测方法，包括如下步骤：
[0008]S1：获取船舶运动姿态的待处理三自由度数据，对数据进行预处理，主要包括以下部分：整理获取数据，截取数据大小，规范化处理；
[0009]进一步的，所述S1的具体步骤为：
[0010]S1.1：整理获取的船舶姿态数据，提取其中的三自由度(横摇角度、纵摇角度和升
沉大小)数据。
[0011]S1.2：将获取的三自由度数据进行截取，数据每行间隔的采样时间为0.05秒，因此每个自由度截取1000行数据进行处理。
[0012]S1.3：由于数据的输入维度不同，并且存在噪声点，会影响神经网络模型的训练效果。因此为了使神经网络模型能够更加准确的对数据进行操作，需要将数据进行规范化处理。归一化是现有的规范化处理非常普遍的方法，采用MinMaxScaler函数将数据映射到[1,
‑
1]之间，以便接下来的操作。具体公式如下：x
i
是当前输入的数据，x
min
是数据中最小的那一个值，x
max
代表的是数据中最大的那个值，M
i
是最后归一化后得到的数据。
[0013]通过以上步骤可以对三自由度的数据进行预处理工作。
[0014]S2：采用AdaRNN(Adaptive RNN)的TDC(Temporal Distribution Characterization)模块对数据进行时间分布表征，其中主要包括计算时序分布特征部分；
[0015]进一步的，所述S2的具体步骤为：
[0016]S2.1：TDC将时间序列划分为K个最不相关且最不相同的子序列段，用分布距离D来表示分布特征，具体公式如下：表示分布特征，具体公式如下：d是相似度度量距离，Δ1，Δ1和K0是为了避免无意义的解而预先定义好的参数。
[0017]S3：利用Transformer输出时序分布特征矩阵，AdaRNN模型接收时序分布特征矩阵并进行时序分布匹配，建立广泛预测模型，主要包括时序分布特征，时序分布匹配部分；
[0018]进一步的，所述S3的具体步骤为：
[0019]S3.1：利用Transformer输出时序分布特征矩阵；
[0020]进一步的，所述S3.1的具体步骤为：
[0021]A1：将K个最不相关的子序列通过Transformer编码器层，编码器由多层自注意力(self
‑
attention)和前向神经网络(feed
‑
forward network)组成。自注意力机制可以使编码器在考虑每个位置时都能够捕捉到整个序列的上下文信息，从而更好地编码输入序列。前向神经网络则可以进一步增强模型的表达能力。
[0022]A2：经过编码层后得到最后一个时刻的隐藏状态表示H，将输入子序列转换成一些固定长度的向量表示，并从隐藏状态H中提取信息。
[0023]A3：根据返回的最优参数，建立广泛预测且自适应的模型。
[0024]S3.2：采用AdaRNN模型接收时序分布特征矩阵并进行时序分布匹配；
[0025]进一步的，所述S3.2的具体步骤为：
[0026]A1：将每个时间步的隐藏状态h
t
(t为时间步数)都作为AdaRNN的输入，以学习更丰富的时间序列特征。
[0027]A2：应用AdaRNN中的TDM(Temporal Distribution Matching)模块在周期之间进
行分布匹配，TDM学习权重模型参数α和θ，具体公式如下：行分布匹配，TDM学习权重模型参数α和θ，具体公式如下：行分布匹配，TDM学习权重模型参数α和θ，具体公式如下：L
pred
(θ)为用于预测的损失函数；α表示动态度量RNN单元中每个时间状态的重要性；θ表示可学习的模型参数；L
tdm
为时间分布匹配的损失函数；不同学习阶段的分布匹配损失计算的更新函数；是在epoch中的时间t步长处的分布距离。进行计算后返回最优参数，得到输出序列Y，捕捉时间序列的长期依赖关系。
[0028]S4：AdaRNN的输出传递给Transformer，进行训练后预测船舶三个自由度数据；
[0029]进一步的，所述S4的具体步骤为：
[0030]S4.1：将输出序列Y＝(y1,y2,
…
y
t
)与编码器的输出H拼接本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于Transformer
‑
AdaRNN模型的船舶姿态实时预测方法，其特征在于，包括以下步骤：S1：获取船舶运动姿态的待处理三自由度数据，对数据进行预处理；S2：采用AdaRNN(Adaptive RNN)的TDC(Temporal Distribution Characterization)模块对数据进行时间分布表征；S3：利用Transformer输出时序分布特征矩阵，AdaRNN模型接收时序分布特征矩阵并进行时序分布匹配，建立广泛预测模型；S4：AdaRNN的输出传递给Transformer，进行训练后预测船舶三个自由度数据。2.根据权利要求1所述的一种基于Transformer
‑
AdaRNN模型的船舶姿态实时预测方法，其特征在于，所述步骤S1的具体步骤为：S1.1：整理获取的船舶姿态数据，提取其中的三自由度(横摇角度、纵摇角度和升沉大小)数据；S1.2：将获取的三自由度数据进行截取，数据每行间隔的采样时间为0.05秒，因此每个自由度截取1000行数据进行处理；S1.3：由于数据的输入维度不同，并且存在噪声点，会影响神经网络模型的训练效果。因此为了使神经网络模型能够更加准确的对数据进行操作，需要将数据进行规范化处。归一化是现有的规范化处理非常普遍的方法，采用MinMaxScaler函数将数据映射到[1,
‑
1]之间，以便接下来的操作。具体公式如下：x
i
是当前输入的数据，x
min
是数据中最小的那一个值，x
max
代表的是数据中最大的那个值，M
i
是最后归一化后得到的数据。3.根据权利要求1所述的一种基于Transformer
‑
AdaRNN模型的船舶姿态预测方法，其特征在于，所述步骤S2的具体步骤为：TDC将时间序列划分为K个最不相关且最不相同的子序列段，用分布距离D来表示分布特征，具体公式如下：特征，具体公式如下：d是相似度度量距离，Δ1，Δ1和K0是为了避免无意义的解而预先定义好的参数。4.根据权利要求1所述的一种基于Transformer
‑
AdaRNN模型的船舶姿态实时预测方法，其特征在于，所述步骤S3的具体步骤为：S3.1：利用Transformer输出时序分布特征矩阵具体步骤如下：A1：将K个最不相关的子序列通过Transformer编码器层，编码器由多层自注意力(self
‑
attention)和前向神经网络(feed
‑
forward network)组成。自注意力机制可以使编码器在考虑每个位置时都能够捕捉到整个序列的上下文信息，从而更好地编码输入序列。前向神经网络则可以进一步增强模型的表达能力。
A2：经过编码层后得到最后一个时刻的隐藏状态表示H，将输入子序列转换成一些固定长度的向量表示，并从隐藏状态H中提取信息。S3.2：采用AdaRNN模型接收时序分布特征矩阵并进行时序分布匹配的具体步骤如下：A1：将每个时间步的隐藏状态h

【专利技术属性】
技术研发人员：张彪，苏严管，
申请(专利权)人：哈尔滨理工大学，
类型：发明
国别省市：