基于递归时序深度置信网络的蓝藻水华预测方法技术

本发明专利技术公开了基于递归时序深度置信网络的蓝藻水华预测方法，属于水环境预测技术领域。首先采集水质数据进行预处理并划分为训练数据和测试数据，构建多因素输入单因素输出的RTDBN模型，在RTDBN模型上建立隐藏层2对训练数据进行再次特征提取。针对训练数据，在RTDBN模型上建立输入层与隐藏层1的参数关系，采用CRBM对输入层偏置和隐藏层1偏置进行更新；同时建立隐藏层1与隐藏层2的参数关系。然后对隐藏层1新偏置和隐藏层2的偏置进行更新，隐藏层2对隐藏层1的特征进行进一步提取，对RCRBN的权重进行更新。最后反向微调模型参数，完成RTDBN模型训练，并通过测试数据对水质的蓝藻水华进行预测。本发明专利技术减少模型的计算，防止出现过拟合的现象，提高了预测精度。

Cyanobacteria bloom prediction method based on recursive time series depth confidence network

The invention discloses a cyanobacterial bloom prediction method based on recursive time series depth confidence network, which belongs to the technical field of water environment prediction. Firstly, the water quality data are collected and divided into training data and test data. A multi-factor input and single-factor output RTDBN model is constructed, and a hidden layer 2 is built on the RTDBN model to extract the trained data again. For training data, the parameter relationship between input layer and hidden layer 1 is established on RTDBN model, and the input layer offset and hidden layer 1 offset are updated by CRBM. At the same time, the parameter relationship between hidden layer 1 and hidden layer 2 is established. Then the new offset of hidden layer 1 and the offset of hidden layer 2 are updated. Hidden layer 2 extracts the features of hidden layer 1 and updates the weight of RCRBN. Finally, the parameters of the model are adjusted inversely to complete RTDBN model training, and the cyanobacterial blooms of water quality are predicted by the test data. The invention reduces the calculation of the model, prevents the phenomenon of over-fitting, and improves the prediction accuracy.

【技术实现步骤摘要】
基于递归时序深度置信网络的蓝藻水华预测方法
本专利技术属于水环境预测
，涉及一种水华预测方法，具体是一种基于递归时序深度置信网络的蓝藻水华预测方法。
技术介绍
水质标志着水的物理、化学和生物特征，可用于衡量水体对社会的可用性。富营养化是指水体中营养物质过度富集的过程，结果会导致某些生物生产力繁殖加速。富营养化的症状主要包括藻类水华、水体富营养化等现象。水体富营养化是一个自然过程，但是人类活动能够通过增加进入水体的营养物质负荷来加速这一过程，富营养化富集会导致藻类水华现象，进而破坏水生生态平衡的过程。因此，通过预测和模拟来有效的防治水华现象的发生具有重要意义。现阶段，水质数学模型和数据驱动模型均可用于对水质进行预测，水质数学模型的类型可分为单水质指标、耦合水质指标和水生生态模型，不随时间变化的稳定态和随时间变化的非稳定态模型，零维、一维、二维和三维模型等，其数学表达式则可以区分为微分方程、积分方程、代数方程、差分方程以及微分-差分方程等。然而，水质数学模型大都比较复杂且仍存在如缺乏必要的监测数据与实验支持、不确定性研究不足等问题，导致最终的模拟结果不准确。数据驱动模型主要是通过智能算法来建立模型，如时间序列模型，神经网络模型以及支持向量机模型等，虽然可以通过当前时刻和历史时刻的表征因素和影响因素来预测未来时刻表征因素的值，但现有的智能模型并不能很好的提取数据特征，导致最终的预测精度不高。因此，在了解上述水质数学模型和数据驱动模型的优缺点后，寻找一种如何引入时间变量，建立表征因素与影响因素之间的关系并充分提取数据特征的智能方法是蓝藻水华研究领域中亟待解决的问题。
技术实现思路
本专利技术为了解决现有的水华预测精度不高以及样本数量不充分等问题，将改进后的深度置信网络方法与时间序列模型相结合，构建一种基于递归时序深度置信网络的蓝藻水华预测方法，从而提高水华的预测精度，为湖库藻类水华预测提供一种新思路。具体步骤如下：步骤一、针对某水质，采集数据进行预处理并划分为训练数据和测试数据；预处理包括去除异常点和去噪等常规处理。步骤二、构建多因素输入单因素输出的递归时序深度置信网络(RTDBN)模型；RTDBN模型由若干递归条件玻尔兹曼机(RCRBM)和BP神经网络组成，RCRBM负责完成RTDBN模型的预训练，BP神经网络负责反向微调RTDBN模型的参数，进而完成模型的整个训练。步骤三、在RTDBN模型上建立隐藏层2，用于对训练数据进行再次特征提取；RTDBN模型包括：输入层，隐藏层和输出层；隐藏层包括隐藏层1和隐藏层2；输入层负责接收历史时刻和当前时刻的表征因素和影响因素的值，并建立多因素回归模型以及表征因素某时刻与其前一个时刻之间的递归关系。隐藏层1负责提取输入层数据的特征；隐藏层2负责对隐藏层1的数据进行特征再提取。输出层则表示未来时刻的藻密度。步骤四、将RTDBN模型初始化；初始化包括：设置RCRBM的隐藏层个数、隐藏层神经元数、隐藏层1和隐藏层2的学习速率、迭代次数、影响因素个数以及BP神经网络的学习速率和迭代次数，权重和偏置初始值等参数。步骤五、针对训练数据，在RTDBN模型上建立输入层与隐藏层1的参数关系，得到隐藏层1当前时刻的矩阵实值；输入层与隐藏层1的参数关系是指：隐藏层1的某时刻分别与输入层该时刻、输入层该时刻的前一个时刻以及隐藏层1的该时刻的前一时刻之间的关系；具体关系式如下：ht-p+1表示隐藏层1的t-p+1时刻的矩阵；表示Sigmoid函数，W1表示隐藏层1的t-p+1时刻与隐藏层1的t-p时刻连接产生的权重。r表示在添加伯努利随机项后保存连接的概率；W2表示隐藏层1的t-p+1时刻与输入层t-p时刻连接产生的权重。vt-p表示输入层t-p时刻表征因素的矩阵；W3表示隐藏层1的t-p+1时刻与输入层t-p+1时刻连接产生的权重；d表示通过高斯随机分布生成的偏置项。其中，ht-p的计算公式如下：隐藏层1当前时刻的矩阵实值ht为：步骤六、采用CRBM对输入层偏置和隐藏层1偏置进行更新，隐藏层1提取输入层的数据特征；输入层偏置更新公式如下：at表示更新前输入层偏置；表示更新后输入层偏置，＜·＞0表示数据集的数学期望，＜·＞1表示经过一次对比散度算法后的重构值的数学期望。η表示输入层与隐藏层1之间的学习速率。表示输入层t-p时刻第j个影响因素的浓度矩阵。ΔAt-p表示输入层影响因素在t-p时刻与输入层表征因素在t时刻的连接产生的权重变化。其表达式如下：j为影响因素的个数，总数为n个；p为时刻个数，总数为m个。隐藏层1偏置更新公式如下：其中，bt表示更新前隐藏层1偏置；b't表示更新后隐藏层1偏置，ΔBt-p表示输入层表征因素在t-p时刻与输入层表征因素在t时刻的连接产生的权重变化，其表达式如下：步骤七、同时，建立隐藏层1与隐藏层2的参数关系；隐藏层1与隐藏层2的参数关系是指：隐藏层2当前时刻与隐藏层1当前时刻的关系；对隐藏层1所有时刻的数据进行进一步的特征提取，最终的隐藏层1当前时刻的值仍然采用对比散度算法进行计算，具体公式如下：表示隐藏层2的当前时刻真实值矩阵，Wt表示隐藏层1和隐藏层2之间的权重，表示由于增加隐藏层2而产生的隐藏层1的新偏置；h't表示隐藏层1的重构值矩阵；表示隐藏层2的偏置。表示隐藏层2的重构值矩阵；步骤八、对隐藏层1新偏置和隐藏层2的偏置进行更新，隐藏层2对隐藏层1的特征进行进一步提取；隐藏层1的新偏置的更新公式如下：表示更新后的隐藏层1的新偏置，η1表示隐藏层1与隐藏层2之间的学习速率。隐藏层2的偏置的更新公式如下：表示更新后的隐藏层2的偏置，ΔCt-p表示隐藏层1的历史时刻与隐藏层2之间的连接产生的权重变化。ΔCt-p的表达式如下：步骤九、隐藏层2在完成训练数据的特征提取后，对RCRBN的权重进行更新，以完成模型的预训练。具体公式如下：表示更新前的权重矩阵；表示更新后的权重矩阵，ΔW表示经过一次训练产生的权重变化，其表达式如下：步骤十、采用BP神经网络反向微调模型参数，最终RTDBN模型完成训练，并通过测试数据对水质的蓝藻水华进行预测。本专利技术的优点在于：1.一种基于递归时序深度置信网络的蓝藻水华预测方法，在建立RTDBN模型时，采用了递归的方法通过表征因素当前时刻和历史时刻来计算隐藏层1当前时刻的值，即建立了隐藏层1当前时刻与输入层表征因素所有时刻，以及隐藏层1当前时刻与隐藏层1历史时刻之间的关系又可以简化模型的算法。2.一种基于递归时序深度置信网络的蓝藻水华预测方法，采用递归方式计算t-p时刻隐藏层矩阵时，在建立输入层t-p-1时刻与隐藏层1的t-p时刻进行连接后，在输入层t-p-1时刻与隐藏层1的t-p时刻之间添加伯努利随机项来删除部分连接，这样即可以建立时序关系，又可以减少模型的计算，而且可防止模型过拟合现象的出现。3.一种基于递归时序深度置信网络的蓝藻水华预测方法，在RTDBN模型输入层添加了影响因素，构建了多因素回归模型，进而建立了输入层表征因素当前时刻与影响因素所有时刻以及隐藏层1的当前时刻与影响因素所有时刻之间的关系，通过表征因素和影响因素来预测未来表征因素的变化情况，提高了模型的预测精度。4.一种基于递归时序深度置信网络的蓝藻水华预测方法，通过RT本文档来自技高网...

【技术保护点】
1.基于递归时序深度置信网络的蓝藻水华预测方法，其特征在于，具体步骤如下：步骤一、针对某水质，采集数据进行预处理并划分为训练数据和测试数据；步骤二、构建多因素输入单因素输出的递归时序深度置信网络RTDBN模型；步骤三、在RTDBN模型上建立隐藏层2，用于对训练数据进行再次特征提取；RTDBN模型包括：输入层，隐藏层和输出层；隐藏层包括隐藏层1和隐藏层2；输入层负责接收历史时刻和当前时刻的表征因素和影响因素的值，并建立多因素回归模型以及表征因素某时刻与其前一个时刻之间的递归关系；隐藏层1负责提取输入层数据的特征；隐藏层2负责对隐藏层1的数据进行特征再提取；输出层则表示未来时刻的藻密度；步骤四、将RTDBN模型初始化；步骤五、针对训练数据，在RTDBN模型上建立输入层与隐藏层1的参数关系，得到隐藏层1当前时刻的矩阵实值；输入层与隐藏层1的参数关系是指：隐藏层1的某时刻分别与输入层该时刻、输入层该时刻的前一个时刻以及隐藏层1的该时刻的前一时刻之间的关系；具体关系式如下：

【技术特征摘要】
2018.04.13 CN 20181033256431.基于递归时序深度置信网络的蓝藻水华预测方法，其特征在于，具体步骤如下：步骤一、针对某水质，采集数据进行预处理并划分为训练数据和测试数据；步骤二、构建多因素输入单因素输出的递归时序深度置信网络RTDBN模型；步骤三、在RTDBN模型上建立隐藏层2，用于对训练数据进行再次特征提取；RTDBN模型包括：输入层，隐藏层和输出层；隐藏层包括隐藏层1和隐藏层2；输入层负责接收历史时刻和当前时刻的表征因素和影响因素的值，并建立多因素回归模型以及表征因素某时刻与其前一个时刻之间的递归关系；隐藏层1负责提取输入层数据的特征；隐藏层2负责对隐藏层1的数据进行特征再提取；输出层则表示未来时刻的藻密度；步骤四、将RTDBN模型初始化；步骤五、针对训练数据，在RTDBN模型上建立输入层与隐藏层1的参数关系，得到隐藏层1当前时刻的矩阵实值；输入层与隐藏层1的参数关系是指：隐藏层1的某时刻分别与输入层该时刻、输入层该时刻的前一个时刻以及隐藏层1的该时刻的前一时刻之间的关系；具体关系式如下：ht-p+1表示隐藏层1的t-p+1时刻的矩阵；表示Sigmoid函数，W1表示隐藏层1的t-p+1时刻与隐藏层1的t-p时刻连接产生的权重；r表示在添加伯努利随机项后保存连接的概率；W2表示隐藏层1的t-p+1时刻与输入层t-p时刻连接产生的权重；vt-p表示输入层t-p时刻表征因素的矩阵；W3表示隐藏层1的t-p+1时刻与输入层t-p+1时刻连接产生的权重；d表示通过高斯随机分布生成的偏置项；其中，ht-p的计算公式如下：隐藏层1当前时刻的矩阵实值ht为：步骤六、采用CRBM对输入层偏置和隐藏层1偏置进行更新，隐藏层1提取输入层的数据特征；输入层偏置更新公式如下：at表示更新前输入层偏置；表示更新后输入层偏置，＜·＞0表示数据集的数学期望，＜·＞1表示经过一次对比散度算法后的重构值的数学期望；η表示输入层与隐藏层1之间的学习速率；表示输入层t-p时刻第j个影响因素的浓度矩阵；ΔAt-p表示输入层影响因素在t-p时刻与输入层表征因素在t时刻的连接产生的权重变化；其表达式如下：j为影响因素的个数，总数为n个；p为时刻个数，总数为m...

【专利技术属性】
技术研发人员：王立，王小艺，张天瑞，许继平，张慧妍，于家斌，孙茜，赵峙尧，
申请(专利权)人：北京工商大学，
类型：发明
国别省市：北京,11