基于制造技术

本发明专利技术公开一种基于

【技术实现步骤摘要】
基于Transformer的高温干旱天气预警方法、电子设备


[0001]本专利技术涉及气象数据处理
，具体涉及一种基于
Transformer
的高温干旱天气预警方法
、
电子设备
。

技术介绍

[0002]气象千变万化且变化过程极其复杂，叠加厄尔尼诺现象的影响，近年来全球气温飙升
、
破坏性天气和极端气象出现频率明显加快，给工农业生产带来较大的影响，如我国夏季长三角地区持续高温灼热导致农田缺墒，土壤水分减少，伤害稻谷作物
、
经济林果作物的生长，造成了产量降低
。
因此，及时准备的高温干旱预警尤为重要
。
[0003]现有的天气预报主要有两种方式进行，即基于大气环流的物理学气象方程的数值模型和基于历史气象数据的统计分析
。
其中，基于大气环流的物理学气象方程的数值模型是根据严格的物理学定律，能够较为可靠地模拟气象过程，但受限于初始的气象条件信息密度
、
计算资源和模拟的时间尺度，数值预报仅能在短期内达到本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种基于
Transformer
的高温干旱天气预警方法，其特征在于，包括以下步骤：采集各台站的日观察数据，所述日观察数据包括气象要素
、
地理空间要素和时间要素；对所述日观察数据进行预处理，所述预处理包括归一化处理和数据缺失插值处理；将预处理后的日观察数据与自当日起前
T1
天预处理后的日观察数据一并输入至目标
Transformer
神经网络模型，得到自当日起
T2
天高温和干旱两种天气类别的预测结果；根据所述预测结果对可能出现的高温干旱天气进行预警
。2.
如权利要求1所述的高温干旱天气预警方法，其特征在于，所述目标
Transformer
神经网络模型的训练过程包括：步骤
a1
，根据需求收集相关台站近
30
年来所有的日观察数据；步骤
a2
，对收集到的日观察数据进行预处理；步骤
a3
，对预处理后的日观察数据采用固定长度的窗口采样，设定步长和窗口长度，设定单个样本的输入数据维度为
M*N
，
M
表示采样长度，
N
表示气象
、
地理
、
时间要素的维度之和；步骤
a4
，制作日观察数据对应的标签，所述标签包括高温和干旱两种，其中，对干旱的定义采用
MCI
指数作为分类依据，依次分为无旱
、
轻旱
、
中旱
、
重旱和特旱五类；对高温事件预警信号分四级，分别以常温
、
黄色
、
橙色和红色表示，具体等级根据各行政区域规定的高温等级阈值确定；干旱和高温采用独热编码方式，即单一数据输入的标签分别用长度5和4的向量表示；步骤
a5
，将预处理后的日观察数据按预设比例划分为训练数据和验证数据；步骤
a6
，利用训练数据及其标签对构建的
Transformer
神经网络模型进行训练，每迭代一轮后利用验证数据及其标签计算损失函数，在满足预设条件后停止训练，得到目标
Transformer
神经网络模型
。3.
如权利要求1或2所述的高温干旱天气预警方法，其特征在于，所述
Transformer
神经网络模型包括切片操作模块
、
线性投影拉平层
、Transformer
编码模块和多层感知机模块；所述切片操作模块被构造为：使用
P
×
P
大小的切片将
M
×
N
维的输入数据切分成
C
个切片，
C
＝
M/P*N/P
；所述线性投影拉平层被构造为：将所述切片转换为一维特征向量，
C
个切片构成
C
×
Q
的二维矩阵，对所述二维矩阵重采样以固定每个切片的长度为
Y
，同时嵌入每个切片的位置信息，最终得到维度大小为
(E,F)
的输入特征矩阵
z0，令
E
＝
C+1
，
F
＝
Y+1
，
z0的表达公式如
(7)
：式中，
x
class
表示待学习的分类特征向量，表示第一个切片，表示第
C
个切片，
E
pos
表示可学习的位置信息，
E
u
表示对切片做重采样操作的矩阵；所述
Transformer
编码模块被构造为：包括多个并列的
Transfomer
层，每个
Transformer
层由多头自注意力层构成，多头自注意力层相当于
H
个不同自注意力权重矩阵的集成，输入特征矩阵
z0通过
H
个不同的自注意力权重矩阵计算得到维度大小为
(E,F)
的输出特征矩阵
z1；所述多层感知机模块被构造为：提取输出特征矩阵
z1中用于分类的特征
z1[0]
并用
z3表示；通过多层感知机获取多重不同的空间
、
时间尺度的特性，输出用于分类或者回归的区别
性特征
z4；将输出特征
z4转化为概率分布表示，转化后的结果
R
是长度为类别数目的向量；其中，
z4的表达公式如
(11)
：
z4＝
MLP(z3)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(11)
式中，
MLP
表示多层感知机；其中，
R
的计算公式如下
(13)
：
R
＝
softmax(z4)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(13)
式中，
softmax
表示将
z4转化为概率分布的操作
。4.
如权利要求3所述的高温干旱天气预警方法，其特征在于，所述
Transformer
编码模块的计算过程具体包括：步骤
b1
：由输入特征计算最核心的内容，即查询矩阵
Q、
键值矩阵
K、
特征值矩阵
V
；
[Q,K,V]
＝
transpose(reshape((z0×
U
qkv
))
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8)
式中，
U
qkv
表示
H
个自注意头的
Q、K、V
的整体变换矩阵，其维度大小为
(F,F*3)
；
reshape
表示调整维度大小操作；
transpose
表示交换维度操作；
z0×
U
qkv
的矩阵维度是
(E
，
F*3)
，
reshape
操作之后维度是
(E,3,H,F/H)
，
transpose
操作之后维度变...

【专利技术属性】
技术研发人员：张建川，王进，赵宇阳，范海荣，孙子尚，
申请(专利权)人：南京拓恒航空科技有限公司，
类型：发明
国别省市：