基于注意力机制制造技术

本发明专利技术属于海洋测绘技术领域，一种基于注意力机制

【技术实现步骤摘要】
基于注意力机制TCN
‑
LSTM模型的表层海流预测方法


[0001]本专利技术涉及一种基于注意力机制
TCN
‑
LSTM
模型的表层海流预测方法，属于海洋测绘

。

技术介绍

[0002]海流是海洋中海水的流动，一般情况下会大规模地朝着一定的方向运动
。
海流可以分为表层海流和深层海流两种类型
。
表层海流主要由风力
、
大气压力和海洋地形等因素所驱动，通常深度在
200
米以上
。
表层海流的特征主要包括流速和流向，它代表了表层海流的强弱和运动方向
。
表层海流的流速一般是从
0cm/s
到
300cm/s
，相对于深层海流的流速来说小一些
。
表层海流的变化对海洋起着重要的作用，虽然表层海流有着积极作用，但其也可能会对环境
、
经济和社会产生一定的危害
。
因此，表层海流预测的研究具有广泛的应用价值...

【技术保护点】

【技术特征摘要】
1.
一种基于注意力机制
TCN
‑
LSTM
模型的表层海流预测方法，其特征在于，包括以下步骤：步骤
1、
通过数据采集模块采集表层海流真实数据，使用
WaMoSII
雷达系统在某海域上采集连续时间的海洋参数，包括采集时间
、
表层海流信息流速
Usp、
流向
Udir
，最大波高
Hmax
及平均波周期
Tm2
，具体包括以下子步骤：
(a)
选择宽阔海域，使用
WaMoSII
浪流监测系统固定在岸边，连接远程
PC
用于数据分析和储存；
(b)
记录采集开始时间，设置采集图像数量为
32
，存储方式为
pol
文件，笛卡尔框的大小设置为
256*128
，用于处理分析数据；
(c)
将
WaMoSII
通过图像反演得到的表层海流数据导出
excle
表格数据；步骤
2、
采用实验数据处理模块处理表层海流数据，具体包括以下子步骤：
(a)
对表层海流数据异常进行处理，剔除掉异常值后填充，使用
k
近邻法填充空值，以保证预测效果，
k
近邻距离公式通过公式
(1)
进行描述，其中，
A
表示特征值的次序，
x
i
表示第一样本，
x
j
表示第二样本，
k
的选取也决定着模型的好坏，
k
不能过大或者过小，过大可能或导致降低其泛化能力，如果过小则会影响精度，
k
表示多维空间中根据欧氏距离找到与待测样本最近邻的点的个数，这里
k
取值为8；
(b)
流向数据处理，对流向进行三角函数变换，其中流向从0°
到
360
°
变化起伏很大，这使得预测难度增加，由于
360
°
分界线之间流向呈现断崖式跨越，在预测的过程中会导致流向预测的不稳定性，在使用深度学习方法预测角度时，从0到
360
度的角度转换为一个连续的
、
实数范围内的值，使用正弦函数或余弦函数进行编码，然后将其用作模型的输入，最后将得到的预测值通过反三角函数使其还原到正常区间即可；
(c)
采用连续小波变换对表层海流数据进行处理，连续小波变换公式通过公式
(2)
进行描述，其中，
x(t)
表示输入信号，表示小波基函数，表示小波基函数的共轭，
a
表示连续小波变换中的尺度参数，
b
表示连续小波变换中的平移参数；小波变换对于去除表层海流数据中的噪声具有好的效果，通过分析表层海流数据中不同尺度的小波系数，进行有效的去噪处理，更好地提取出信号中的真实特征，用于后续模型的训练和测试；
(d)
对表层海流数据进行归一化处理，归一化公式通过公式
(3)
进行描述其中，
x
表示表层海流原始数据，
x
max
表示表层海流原始数据集中的最大值
、x
min
表示表层海流原始数据集中的最小值；
步骤
3、
采用模型搭建模块构造注意力机制
TCN
‑
LSTM
表层海流预测模型，通过
LSTM
处理输入表层海流数据，注意力机制将表层海流数据转换为查询
query、
键
key
和值
value
的形式，具体包括以下子步骤：
(a)
构建
LSTM
单元，将处理后的表层海流数据输入
LSTM
单元中，输入维度为
t*n
，其中：
t
是时间长度为
16000
，
n
是特征维度为5，
LSTM
层数为6，隐藏层单元为
20
，经过第一层
LSTM
处理后，得到输出
(16000
，
20)
的二维数组，将这个输出作为第二层
LSTM
的输入，经过第二层
LSTM
处理后，得到的输出仍然是一个
(16000
，
20)
的二维数组，以此类推；
LSTM
单元结构主要包含输入门
、
遗忘门及输出门，计算公式通过公式
(4)、(5)、(6)、(7)、(8)
进行描述，
i
t
＝
σ
(W
i
·
[h
t
‑1，
x
t
]+b
i
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(4)f
t
＝
σ
(W
f
·
[h
t
‑1，
x
t
]+b
f
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(5)o
t
＝
σ
(W
o
[h
t
‑1，
x
t
]+b
o
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(6)h
t
＝
o
t
*tanh(C
t
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8)
其中：
W
i
、b
i
分别表示输入门的状态权重和偏置项，
W
f
、b
f
分别表示遗忘门的状态权重和偏置项，
W
o
、b
o
分别表示输出门的状态权重和偏置项，
σ
为
sigmoid
激活函数，
h
t
‑1为
t
‑1时刻的隐藏状态，表示
tanh
层用来生成新的候选记忆单元，
C
t
表示候选记忆单元，
h
t
表示隐藏状态是由输出门
o
t
和候选记忆单元
C
t
决定；将选定的特征转换为
LSTM
模型可接受的输入格式，再把处理后的表层海流时间序列数据转化为二维数组形式，其中一个维度表示时间步，另一个维度表示特征，在每个时间步，
LSTM
单元会根据当前时间步的输入和前一时间步的隐藏状态进行计算，得到当前时间步的输出和新的隐藏状态；
(b)
构建
TCN
‑
LSTM
模型，将
LSTM
的输出输入到...

【专利技术属性】
技术研发人员：安毅，孙庆宇，
申请(专利权)人：新疆大学，
类型：发明
国别省市：