【技术实现步骤摘要】
：本专利技术涉及装备运行能效优化，具体的说是一种能够显著提高装备运行效率的基于改进的双注意力机制的油耗预测方法。
技术介绍
0、
技术介绍
：
1、油耗预测是实现装备运行能效优化的前提。然而，装备运行时采集的监测数据具有维度高，类型复杂等特点。因此，如何准确的把握油耗与这些影响因素之间的关系，对提高油耗预测的准确性至关重要。通常而言，按照监测数据的来源不同，可以将装备状态监测数据分为运行参数以及环境参数等。一方面，不同类型参数对于油耗的影响方式不同，相同类型参数对于油耗的影响程度也不同；另一方面，不同时刻的油耗影响因素也会发生变化。因此，在实际构建油耗模型时，可以从时间维度和特征维度的角度，对不同的数据类型分别建模，从而实现油耗的精准预测。
2、当人通过眼睛浏览目标事物的时，会立刻获取目标事物中重点关注的部分，给予更多的注意力，而忽略其他不重要的信息，我们将这种现象称为人类的视觉注意力。受这种注意力的启发，在使用神经网络处理大量数据信息的时候，采用注意力机制，可以获取关键的输入信息，提高神经网络的效率。
3、2017年，qin等人提出了一种针对于多元时间序列预测的网络模型—da-rnn，即双阶段注意力机制的循环神经网络。该模型基于编码器-解码器(encoder-decoder)的结构，对多元时间序列同时引入特征注意力和时间注意力机制，从而同时实现选择更加相关的输入特征以及更好的捕捉序列长时间的依赖性的目的。da-rnn的网络的结构图如图4所示。
4、然而，经典的双注意力机制的网络模型并
技术实现思路
0、
技术实现思路
：
1、本专利技术针对现有技术中存在的缺点和不足，提出了一种能够提高装备油耗预测的准确性的基于改进的双注意力机制的油耗预测方法。
2、本专利技术通过以下措施达到：
3、一种基于改进的双注意力机制的油耗预测方法，其特征在于，包括以下步骤：
4、步骤一：对状态监测数据进行数据预处理，以获得高质量的数据；步骤二：采用工况识别模型对工况进行识别；
5、步骤三：针对不同工况，构建基于双注意力机制的油耗预测模型，通过特征注意力和时间注意力的引入自适应的捕捉油耗与其影响因素之间的参数重要性和时间重要性；
6、步骤四：采用均方根误差(mse)作为损失函数并基于梯度反向更新模型参数以建立模型，实现油耗的有效预测。
7、本专利技术步骤三中所述基于双注意力机制的油耗预测模型具体为：改进的双注意力机制(ida-rnn)模型网络模型；在编码器中，按照数据类型的不同，将油耗影响因素数据分为环境数据(风速，水速)，运行数据(螺距，舵角，速度，吃水)，并采用两个并行的lstm分别对环境数据和运行数据进行编码建模，从而可以更好的捕获不同类型数据对应油耗率的影响程度；此外，由于建模时是将不同类型的数据分别建模，为了可以更好的描述所有数据的隐含信息，采用一个新的lstm以学习以获取不同类型数据的联合表示，这个联合表示可以同时学习到油耗影响因素对目标油耗的重要程度和油耗影响因素自身的时序依赖性；在解码器中，采用与经典的双注意力机制模型相同的结构，即在编码器与解码器之间引入时间注意力机制，自适应的选择联合表示以更好的捕获目标油耗序列的时间依赖性以及自身趋势性。
8、本专利技术步骤三中，为了捕获所有油耗特征与油耗之间的关系，即油耗对应特征贡献率，准确挖掘出不同时刻下的油耗影响因素的变化，在编码器阶段，分别对环境参数和运行参数引入特征注意力机制，针对运行参数，对编码器的注意力机制进行描述如下：
9、对于给定的运行参数包括左桨螺距，右桨螺距，左舵角，右舵角，对地速度和吃水组成的时间序列用式(1-7)进行描述：
10、
11、式中表示t时刻的上述6个运行参数的特征集合；
12、表示第k个运行参数在t(1≤t≤t)时刻的数值，运行参数的特征注意力运算过程如下：
13、首先，在t时刻时，采用lstm1对ut进行编码获得隐藏层向量ht，如式(1-8)所示：
14、ht＝f(ht-1,ut) (1-8)
15、式中f表示编码器中采用lstm作为激活函数；
16、其次，计算每一个运行参数与编码器状态向量的注意力权重，对于第k个参数在t时刻，注意力权重的计算如式(1-9)，(1-10)所示
17、
18、
19、式中we,ue表示需要学习的权重矩阵，表示第k个参数在t时刻的注意力得分；
20、最后，重构原始的运行参数序列，更新编码器的隐藏层状态ht，如式(1-11)，(1-12)所示，
21、
22、式中ht-1表示t-1时刻编码器的隐藏层状态，表示t时刻的重构序列；
23、环境参数的特征注意力计算过程与运行参数相同，采用相同的更新方式可以获得每一个时刻下环境参数对应的隐藏层状态mt。
24、本专利技术步骤三中，为了实现运行参数信息与环境参数信息的融合，引入一个新的lstm单元，通过将运行参数与环境参数的隐藏层输出进行拼接重构,以获得该lstm的联合表示输入qt，如式(1-13)所示：
25、qt＝[ht,mt](1-13)，式中qt是t时刻的联合表示，因此，联合表示的lstm的隐藏层状态ht可用式(1-14)进行更新：
26、ht＝f1(qt,ht-1) (1-14)
27、式中ht-1表示t-1时刻的联合表示模块的隐藏层输出，ht表示t时刻联合表示模块的隐藏层输出，f1表示联合表示中采用lstm作为激活函数。
28、本专利技术步骤三中，为了进一步捕捉油耗影响参数在长时间上的依赖性，在编码器和解码器之间引入时间注意力机制，可以获取不同时刻下编码器隐藏层状态对于解码器隐藏层状态的影响程度，从而准确的刻画出油耗的时序相关性，有利于提高预测的准确性
29、时间注意力机制的运算过程如下所示：
30、首先，计算编码器中联合表示lstm中每个时刻的隐层状态hi与解码器状态向量[dt-1,st-1]的注意力权重，获得上下文向量，则在t时刻时，编码器第i个隐藏层的注意力权重用式(1-15)，(1-16)计算得到，整体的上下文向量ct的计算可用式(1-17)计算：
31、
32、
33、式中vd,wd,ud表示需要学习的权重矩阵；...
【技术保护点】
1.一种基于改进的双注意力机制的油耗预测方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种基于改进的双注意力机制的油耗预测方法，其特征在于，步骤三中所述基于双注意力机制的油耗预测模型具体为：改进的双注意力机制(IDA-RNN)模型网络模型；在编码器中，按照数据类型的不同，将油耗影响因素数据分为环境数据，运行数据，并采用两个并行的LSTM分别对环境数据和运行数据进行编码建模，从而可以更好的捕获不同类型数据对应油耗率的影响程度；此外，由于建模时是将不同类型的数据分别建模，为了可以更好的描述所有数据的隐含信息，采用一个新的LSTM以学习以获取不同类型数据的联合表示，这个联合表示可以同时学习到油耗影响因素对目标油耗的重要程度和油耗影响因素自身的时序依赖性；在解码器中，采用与经典的双注意力机制模型相同的结构，即在编码器与解码器之间引入时间注意力机制，自适应的选择联合表示以更好的捕获目标油耗序列的时间依赖性以及自身趋势性。
3.根据权利要求2所述的一种基于改进的双注意力机制的油耗预测方法，其特征在于，步骤三中，为了捕获所有油耗特征与油耗之间的关系，即油耗对
4.根据权利要求3所述的一种基于改进的双注意力机制的油耗预测方法，其特征在于，步骤三中，为了实现运行参数信息与环境参数信息的融合，引入一个新的LSTM单元，通过将运行参数与环境参数的隐藏层输出进行拼接重构,以获得该LSTM的联合表示输入Qt，如式(1-13)所示：
5.根据权利要求4所述的一种基于改进的双注意力机制的油耗预测方法，其特征在于，步骤三中，为了进一步捕捉油耗影响参数在长时间上的依赖性，在编码器和解码器之间引入时间注意力机制，可以获取不同时刻下编码器隐藏层状态对于解码器隐藏层状态的影响程度，从而准确的刻画出油耗的时序相关性，有利于提高预测的准确性
6.根据权利要求4所述的一种基于改进的双注意力机制的油耗预测方法，其特征在于，步骤四中，在整个训练的过程中，采用均方根误差(MSE)作为损失函数，并采用提前终止(Early stopping)的策略避免过拟合，损失函数的表达式如式(1-21)所示：
...【技术特征摘要】
1.一种基于改进的双注意力机制的油耗预测方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种基于改进的双注意力机制的油耗预测方法，其特征在于，步骤三中所述基于双注意力机制的油耗预测模型具体为：改进的双注意力机制(ida-rnn)模型网络模型；在编码器中，按照数据类型的不同，将油耗影响因素数据分为环境数据，运行数据，并采用两个并行的lstm分别对环境数据和运行数据进行编码建模，从而可以更好的捕获不同类型数据对应油耗率的影响程度；此外，由于建模时是将不同类型的数据分别建模，为了可以更好的描述所有数据的隐含信息，采用一个新的lstm以学习以获取不同类型数据的联合表示，这个联合表示可以同时学习到油耗影响因素对目标油耗的重要程度和油耗影响因素自身的时序依赖性；在解码器中，采用与经典的双注意力机制模型相同的结构，即在编码器与解码器之间引入时间注意力机制，自适应的选择联合表示以更好的捕获目标油耗序列的时间依赖性以及自身趋势性。
3.根据权利要求2所述的一种基于改进的双注意力机制的油耗预测方法，其特征在于，步骤三中，为了捕获所有油耗特征与油耗之间的关系，即油耗对应特征贡献...
【专利技术属性】
技术研发人员：张永健，杜少辉，冒志豪，简晓慧，付旭云，
申请(专利权)人：哈尔滨工业大学威海，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。