一种基于多任务学习及深度学习模型的水质预测方法技术

本发明专利技术提供了一种基于多任务学习及深度学习模型的水质预测方法，包括以下步骤：获取输入数据，输入数据包括水质数据和气象数据；将输入数据输入至预测模型中；获取输入数据的时间序列；根据时间序列和输入数据获取局部依赖特征和长时间依赖特征；根据局部依赖特征和长时间依赖特征获得水质指标预测结果。本发明专利技术所述的一种基于多任务学习及深度学习模型的水质预测方法能够适用于分析预测非线性的、复杂的水质数据，提高水质预测精度。提高水质预测精度。提高水质预测精度。

【技术实现步骤摘要】
一种基于多任务学习及深度学习模型的水质预测方法


[0001]本专利技术属于环境质量预测
，具体涉及一种基于多任务学习及深度学习模型的水质预测方法。

技术介绍

[0002]水是我们日常生活中不可或缺的资源，也是生态系统中赖以生存的物质。随着工业、经济的发展，水体污染愈发严重，水资源愈加短缺，因此保护水资源迫在眉睫。在水资源的保护过程中，需要使用水质预测方法预测水资源的健康情况，便于工作人员及时采取预防污染措施，避免水资源大面积污染。
[0003]目前水质预测方法大致分为两类。第一类是传统的统计学习方法，常用的是差分整合移动平均自回归模型(ARIMA)。ARIMA可以有效捕捉特征间的线性关系，但只能适用于平稳序列的预测，无法适用于当下复杂的非线性水质数据。第二类常用的水质预测方法是使用BP神经网络模型对水质进行预测。BP神经网络由于其能拟合任意连续函数及具有较强非线性映射能力的特性被成功用于水质预测领域。然而，评价水质健康的数据较多且复杂，BP神经网络较“浅”，无法适用于高度复杂的数据集。
[0004]基于上述水质预测存在的问题，亟需一种基于多任务学习的水质预测方法，能够解决现有的水质预测方法不能适用于当下非线性的、复杂的水质数据，导致水质预测结果不精确的问题。

技术实现思路

[0005]本专利技术旨在至少解决现有技术中存在的技术问题，提供一种基于多任务学习及深度学习模型的水质预测方法，适用于分析预测非线性的、复杂的水质数据，提高水质预测精度。
[0006]为了实现本专利技术的上述目的，根据本专利技术的第一个方面，本专利技术提供了一种基于多任务学习及深度学习模型的水质预测方法，包括以下步骤：获取输入数据，输入数据包括水质数据和气象数据；将输入数据输入至预测模型中；获取输入数据的时间序列；根据时间序列和输入数据获取局部依赖特征和长时间依赖特征；根据局部依赖特征和长时间依赖特征获得水质指标预测结果。
[0007]进一步地，预测模型的训练过程如下：创建初始模型；获取训练数据放入初始模型中，训练数据包括水质数据和气象数据，根据训练数据建立目标序列和时间序列，对训练数据进行预处理，通过滑动窗口将时间序列和目标序列作为初始模型的输入；初始模型提取时间序列和目标序列中的特征数据，对特征数据进行学习，获得特征数据之间的局部依赖特征和长时间依赖特征，向局部依赖特征和长时间依赖特征赋予动态权重获得初始模型的输出结果；基于多任务学习模型获取时间序列和目标序列中的特征数据的相关性，根据提取到的特征数据和多个任务间的相关性对初始模型的损失函数进行更新，直至初始模型的损失函数最小化，初始模型结束训练生成预测模型。
[0008]进一步地，向局部依赖特征和长时间依赖特征赋予动态权重的步骤中还包括加权求和步骤；加权求和步骤具体为：使用softmax函数确保动态权重的和为1。
[0009]进一步地，初始模型的损失函数如下：进一步地，初始模型的损失函数如下：其中，L(W,σ1,σ2)表示初始模型的损失函数，L1、L2、L3分别表示任务1的损失函数、任务2的损失函数、任务3的损失函数；W表示初始模型的模型参数；σ1、σ2、σ3分别表示任务1的损失权重、任务2的损失权重、任务3的损失权重；L1(W)、L2(W)、L3(W)分别表示任务1的损失值、任务2的损失值、任务3的损失值。
[0010]进一步地，初始模型包括卷积神经网络层、长短期记忆网络层、注意力机制层和多任务学习模型。
[0011]进一步地，卷积神经网络层包括一维卷积层；一维卷积层的卷积核只能在时间序列的时间步方向上移动；一维卷积层通过卷积操作提取特征数据的局部特征，一维卷积层的提取公式具体如下：h
l
＝ELU(W
l
⊙
X+b
l
)；其中，h
l
表示滤波器l的输出；W
l
表示滤波器l的权重矩阵；
⊙
表示一维卷积操作，X表示一维卷积层的输入；b
l
表示滤波器l的偏置向量；ELU()表示激活函数。
[0012]进一步地，长短期记忆网络层依次包括遗忘门、输入门、输出门和细胞状态；遗忘门、输入门、输出门和细胞状态的计算公式具体如下：门、输入门、输出门和细胞状态的计算公式具体如下：门、输入门、输出门和细胞状态的计算公式具体如下：h
t
＝o
t
*tanh(C
t
)；其中，t表示t时刻；f
t
表示t时刻遗忘门的输出；i
t
表示t时刻输入门的输出；o
t
表示t时刻输出门的输出。W
f
、W
i
、W
o
、W
C
分别表示遗忘门的权重矩阵、输入门的权重矩阵、输出门的权重矩阵、细胞状态的权重矩阵；C
t
表示t时刻细胞状态的输出；C
t
‑1表示时刻t
‑
1细胞状态的输出；表示时刻t细胞状态更新值；h
t
表示t时刻的隐藏状态；h
t
‑1表示t
‑
1时刻的隐藏状态；表示当前时刻t的输入；b
f
、b
i
、b
o
、b
C
分别表示遗忘门的偏置向量、输入门的偏置向量、输出门的偏置向量、细胞状态偏置向量；tanh()表示激活函数；σ()表示sigmoid函数。
[0013]进一步地，注意力机制层的计算公式具体如下：
[0014][0015][0016][0017][0018]其中，t表示t时刻，表示第*个隐藏状态的重要性；v
e
、b
e
表示需要学习的T维向量；W
e
表示m
×
T维的矩阵，U
e
表示m
×
m维的矩阵，m表示隐藏状态的数量；σ
t
()表示变化函数；h
t
‑1表示上一个时刻的隐藏状态；c
t
‑1表示t
‑
1时刻的细胞状态；h
t
表示时刻t的隐藏状
态；表示时刻t第*个隐藏状态的注意力权重；表示注意力机制层加权求和后的输出；T表示时间窗口的大小。
[0019]进一步地，多任务学习模型的损失函数如下：进一步地，多任务学习模型的损失函数如下：其中，L(θ表示单个任务的损失函数；θ表示单个任务的待学习参数；σ表示任务权重；N表示任务数量，i∈N；y
i
表示第i个任务真实值；x
i
表示第i个任务的输入值，f(x
i
)表示第i个任务的预测值。
[0020]进一步地，预处理的步骤依次包括填补缺失数据、数据同步处理、特征选择、去噪处理和归一化处理；填补缺失数据的步骤具体为：使用K
‑
近邻插值算法对训练数据或预测数据中缺失本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于多任务学习及深度学习模型的水质预测方法，其特征在于，包括以下步骤：获取输入数据，输入数据包括水质数据和气象数据；将输入数据输入至预测模型中；获取输入数据的时间序列；根据时间序列和输入数据获取局部依赖特征和长时间依赖特征；根据局部依赖特征和长时间依赖特征获得水质指标预测结果。2.如权利要求1所述的一种基于多任务学习及深度学习模型的水质预测方法，其特征在于，预测模型的训练过程如下：创建初始模型；获取训练数据放入初始模型中，训练数据包括水质数据和气象数据，根据训练数据建立目标序列和时间序列，对训练数据进行预处理，通过滑动窗口将时间序列和目标序列作为初始模型的输入；初始模型提取时间序列和目标序列中的特征数据，对特征数据进行学习，获得特征数据之间的局部依赖特征和长时间依赖特征，向局部依赖特征和长时间依赖特征赋予动态权重获得初始模型的输出结果；基于多任务学习模型获取任务之间的相关性，根据学习到的任务间相关性对初始模型中的损失函数进行更新，直至初始模型的损失函数最小化，初始模型结束训练生成预测模型。3.如权利要求2所述的一种基于多任务学习及深度学习模型的水质预测方法，其特征在于，向局部依赖特征和长时间依赖特征赋予动态权重的步骤中还包括加权求和步骤；加权求和步骤具体为：使用softmax函数确保动态权重的和为1。4.如权利要求2或3所述的一种基于多任务学习及深度学习模型的水质预测方法，其特征在于，初始模型的损失函数如下：其中，L(W,σ1,σ2)表示初始模型的损失函数，L1、L2、L3分别表示任务1的损失函数、任务2的损失函数、任务3的损失函数；W表示初始模型的模型参数；σ1、σ2、σ3分别表示任务1的损失权重、任务2的损失权重、任务3的损失权重；L1(W)、L2(W)、L3(W)分别表示任务1的损失值、任务2的损失值、任务3的损失值。5.如权利要求2或3所述的一种基于多任务学习及深度学习模型的水质预测方法，其特征在于，初始模型包括卷积神经网络层、长短期记忆网络层、注意力机制层和多任务学习模型。6.如权利要求5所述的一种基于多任务学习及深度学习模型的水质预测方法，其特征在于，卷积神经网络层包括一维卷积层；一维卷积层的卷积核只能在时间序列的时间步方向上移动；一维卷积层通过卷积操作提取特征数据的局部特征，一维卷积层的提取公式具体如下：h
l
＝ELU(W
l
⊙
X+b
l
)其中，h
l
表示l个滤波器的输出；W
l
表示权重矩阵；
⊙
表示一维卷积操作，X表示卷积层的输入；b
l
表示偏置向量；ELU()表示激活函数。7.如权利要求5所述的一种基于多任务学习及深度学习模型的水质预测方法，其特征在于，长短期记忆网络层依次包括遗忘门、输入门、输出门和细胞状态；
遗忘门、输入门、输出门和细胞状态的计算公式具体如下：遗忘门、输入门、输出门和细胞状态的计算公式具体如下：遗忘门、输入门、输出门和细胞状态的计算公式具体如下：遗忘门、输入门、输出门和细胞状态的计算公式具体如下：遗忘门、输入门、输出门和细胞状态的计算公式具体如下：h
t
＝a
t
*tanh(C
t
)其中，t表示t时刻；f
t
表示t时刻遗忘门的输出；i
t
表示t时刻输入门的输出；o
t
表示t时刻输出门的输出。W
f
、W
i
...

【专利技术属性】
技术研发人员：熊庆宇，杨雨蓉，柯采，易华玲，罗力豪，林军成，
申请(专利权)人：重庆大学，
类型：发明
国别省市：