一种智能工厂基于长序列双预测和informer的高频时序数据有效传输方法技术

本发明专利技术公开了一种智能工厂基于长序列双预测和informer的高频时序数据有效传输方法，涉及智能制造领域，所述方法首先搭建云边协同长序列双预测架构，然后在该架构的边缘网关和云服务器部署训练好的长序列预测模型，最后采用长序列双预测方法在线地减少高频数据的传输量，并保证数据的精度。本发明专利技术改进了传统双预测方法的结构，通过长序列预测降低了预测模型的推理次数，从而大大提高了传统方法的适用频率，使其用于降低智能制造过程中所需要高频数据的传输量成为可能。同时，引入并结合最新深度学习模型informer解决了长序列预测带来的梯度消失和模型推理时间激增的问题，从而进一步提高了所提长序列双预测方法的传输量减少比例和适用频率。少比例和适用频率。少比例和适用频率。

【技术实现步骤摘要】
一种智能工厂基于长序列双预测和informer的高频时序数据有效传输方法


[0001]本专利技术涉及智能制造领域，尤其涉及一种智能工厂基于长序列双预测和informer的高频时序数据有效传输方法。

技术介绍

[0002]智能制造以实现工厂的数字化和智能化为目的。在这个过程中，云平台上部署了大量智能应用，这些应用需要底层传感器设备采集的大量在线时序数据的支持，如在线产品质量检测应用和实时设备运行状态评估应用等。这些数据通常包括振动，电流，电压等高频数据，它们具有在线，数据频率高，传输量大的特点。随着应用和传感器数量不断上升，这些高频数据的传输量变得十分巨大。以至于工厂中有限的带宽资源难以满足如此大规模，高密度，高频率的在线数据传输。必须降低它们的数据传输量以满足智能制造过程中对大规模高频数据的需求。同时，由于应用的结果与数据质量直接相关，必须保证数据的准确性。此外，以振动数据为例，其采样频率通常在1KHz以上，且均为在线的数据，算法必须要能够配合在线高频数据的采样频率。
[0003]最近两年减少在线时序数据传输量的方法主要分为两大类：非双预测方法和双预测方法。其中非双预测方法的方案无法保证数据精度。基于双预测方法的方案由于其双预测和确认机制，能够在降低数据传输量的同时保证其数据精度。在每个时间点，数据发送方和接收方都利用同样的输入数据和预测模型进行一次单点的时间序列预测，从而得到下一个时刻的同样的预测值。当下一个时刻来临，数据发送方采集到真实值后，将其与预测值进行比较。当且仅当它们的偏差大于阈值时，数据发送方向接受方发送真实值。对于在上述过程中使用的预测模型，已有的与本专利技术最相近似的实现方案采用的是单点预测的长短期记忆(LSTM)模型。
[0004]现有技术，主要有以下缺点：
[0005]1.非双预测方法的减少在线时序数据传输量的方案无法保证数据精度。
[0006]2.非深度学习的双预测方法预测精度低，只能适用于变化缓慢的低频率简单数据。
[0007]3.现有的双预测方法主要用于无线传感器领域，针对温湿度等采样频率低的数据。其特点为每个时间点都需要进行预测模型的推理。因此对于本技术背景中智能制造过程中普遍需要的高频的振动，电流，电压等数据，短时间内需要进行多次模型推理，使得模型推理速度难以满足要求。导致现有的双预测方法无法应用于所述高频数据。
[0008]4.现有最新双预测方法采用的是单点预测的LSTM模型。由于LSTM的串行结构，其在面对长序列数据时，存在梯度消失的问题，难以捕获远距离信息。从而导致其难以进行长序列预测，预测精度低使得传输量减少比例低。
[0009]5.现有最新双预测方法使用的LSTM是串行结构，严重影响了模型的推理速度。且其在长序列预测的模型推理过程中为了保证精度必须使用自回归，这使得模型的推理时间
随着输出序列的长度呈直线增长。预测模型推理时间的上升，降低了所提长序列双预测方法的适用频率。
[0010]因此，本文针对上述问题，提出了一种长序列双预测方法，以在降低高频数据传输量的同时，保证其精度。所提方法将传统双预测方法一次预测一个时间点，每个时间点都进行预测，改进成一次预测多个时间点，隔多个时间点预测一次，从而减少了预测模型的推理次数，大大提高了传统方法的适用频率，使其用于降低智能制造过程中所需要的高频数据成为可能。同时，为了应对长序列预测带来的梯度消失和模型推理时间激增的问题，我们引入并结合了基于transformer的最新深度学习模型informer。该模型与最新的双预测方法使用的长短期记忆模型相比，能够通过注意力机制有效地捕获长距离时序信息，以满足所提长序列双预测方法对输入数据和预测数据的长度要求，保持长序列时序预测的准确性，从而增大所提方法的传输量减少比例。同时，利用该模型的概率稀疏自注意力机制，自注意力蒸馏方法，以及生成型解码器，大大降低了长序列双预测过程中预测模型推理时的计算复杂度，使其获得更快的推理速度，从而进一步提高了所提长序列双预测方法的适用频率。

技术实现思路

[0011]有鉴于现有技术的上述缺陷，本专利技术所要解决的技术问题是如何在降低高频数据传输量的同时，保证其精度。
[0012]为实现上述目的，本专利技术提供了一种智能工厂基于长序列双预测和informer的高频时序数据有效传输方法，其特征在于，所述方法首先搭建云边协同长序列双预测架构，然后在该架构的边缘网关和云服务器部署训练好的长序列预测模型后，最后采用长序列双预测方法在线地减少高频数据的传输量，并保证数据的精度。
[0013]进一步地，所述云边协同长序列双预测架构，主要包括以下步骤：
[0014]步骤S1：边缘网关采集传感器数据；
[0015]步骤S2：所述边缘网关对原始数据进行预处理；
[0016]步骤S3：所述边缘网关将预处理后的数据制作成数据集，并发送给所述云服务器；
[0017]步骤S4：所述云服务器利用所述数据集训练所述长序列预测模型；
[0018]步骤S5：所述云服务器将训练好的所述长序列预测模型同步到所述边缘网关；
[0019]步骤S6：边缘网关作为所述长序列双预测方法中的数据发送者通过所述长序列双预测方法向作为所述长序列双预测方法中的数据接收者的云服务器持续在线地传输高频数据。
[0020]进一步地，在所述步骤S4中，所述云服务器在接收到所述数据集后，将所述数据集划分为训练集，验证集，和测试集；然后设定所述长序列预测模型的超参数，利用所述训练集对所述长序列预测模型进行训练；将训练好的所述长序列预测模型在所述验证集上进行验证，得到各项评价指标；根据所述评价指标的好坏调整所述超参数再继续训练；最终获得效果满意的一组所述超参数以及所述超参数下训练好的所述长序列预测模型；所述超参数调整的过程可以人工进行，也可以使用自动机器学习工具，如微软的NNI，利用模拟退火等算法对所述超参数进行自动寻优；训练好的所述长序列预测模型可以在所述测试集上进行测试来预估其实际工作时的表；得到所述长序列预测最优模型后，对其进行保存，通常保存为.pkl文件。
[0021]进一步地，所述长序列双预测方法，主要包括以下步骤：
[0022]步骤T1：准备阶段时，所述数据发送方向所述数据接收方发送所有真实值，当该阶段发送真实值的数量达到所述长序列预测模型输入长度n后，进入预测阶段；
[0023]步骤T2：所述云服务器和所述边缘网关同时利用所述长序列预测模型，通过所述长序列预测机制得到下l个时刻数据的预测值；
[0024]步骤T3：所述边缘网关采集下一个时刻数据的原始值，并将其预处理得到该时刻的真实值；
[0025]步骤T4：所述边缘网关运行所述长序列确认机制，若该时刻真实值与预测值偏差大于阈值，则将真实值压入发送缓冲区；
[0026]步骤T5：重复步骤T3和步骤T4一次，然后所述边缘网关将所述发送缓冲区中的所有真实值打包发送给所述云服务器；
[0027]步骤T6：所述边缘网关本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种智能工厂基于长序列双预测和informer的高频时序数据有效传输方法，其特征在于，所述方法首先搭建云边协同长序列双预测架构，然后在该架构的边缘网关和云服务器部署训练好的长序列预测模型，最后采用长序列双预测方法在线地减少高频数据的传输量，并保证数据的精度。2.如权利要求1所述的智能工厂基于长序列双预测和informer的高频时序数据有效传输方法，其特征在于，所述云边协同长序列双预测架构，主要包括以下步骤：步骤S1：边缘网关采集传感器数据；步骤S2：所述边缘网关对原始数据进行预处理；步骤S3：所述边缘网关将预处理后的数据制作成数据集，并发送给所述云服务器；步骤S4：所述云服务器利用所述数据集训练所述长序列预测模型；步骤S5：所述云服务器将训练好的所述长序列预测模型同步到所述边缘网关；步骤S6：边缘网关作为所述长序列双预测方法中的数据发送者通过所述长序列双预测方法向作为所述长序列双预测方法中的数据接收者的云服务器持续在线地传输高频数据。3.如权利要求2所述的智能工厂基于长序列双预测和informer的高频时序数据有效传输方法，其特征在于，在所述步骤S6中，当所述边缘网关和所述云服务器成功加载训练好的相同的所述长序列预测模型后，所述边缘网关作为所述长序列双预测方法的数据发送方，向作为接收方的所述云服务器持续在线地发送高频数据。4.如权利要求3所述的智能工厂基于长序列双预测和informer的高频时序数据有效传输方法，其特征在于，所述长序列双预测方法，主要包括以下步骤：步骤T1：准备阶段时，所述数据发送方向所述数据接收方发送所有真实值，当该阶段发送真实值的数量达到所述长序列预测模型输入长度n后，进入预测阶段；步骤T2：所述云服务器和所述边缘网关同时利用所述长序列预测模型，通过所述长序列预测机制得到下l个时刻数据的预测值；步骤T3：所述边缘网关采集下一个时刻数据的原始值，并将其预处理得到该时刻的真实值；步骤T4：所述边缘网关运行所述长序列确认机制，若该时刻真实值与预测值偏差大于阈值，则将真实值压入发送缓冲区；步骤T5：重复步骤T3和步骤T4一次，然后所述边缘网关将所述发送缓冲区中的所有真实值打包发送给所述云服务器；步骤T6：所述边缘网关和所述云服务器同时运行所述长序列还原机制得到该l个时刻的最终值；步骤T7：滑动窗口在最终值上滑动l个时刻，得到新的所述长序列预测模型输入数据，然后转步骤T2。5.如权利要求4所述的智能工厂基于长序列双预测和informer的高频时序数据有效传输方法，其特征在于，在所述步骤T6中，所述边缘...

【专利技术属性】
技术研发人员：吴雨，杨博，陈彩莲，关新平，
申请(专利权)人：上海交通大学，
类型：发明
国别省市：