【技术实现步骤摘要】
本专利技术属于传感器时间序列，尤其涉及一种基于记忆重放变分自动编码器的iot数据在线预测系统。
技术介绍
1、近年来，各类传感器的广泛应用，导致时间序列数据的生成量急剧增加。在智能环境监测、工业监测以及数据中心监测等领域，实时和智能分析的重要性愈发突出。
2、传感器观测到的时间序列数据受到多种未知因素的影响，如环境中的物理或化学变化、污染物附着、传感器性能下降等，导致大多数流式传感器数据非平稳且易出现动态分布漂移。这种现象在机器学习中称为概念漂移问题，即数据会随时间以不可预测的方式变化。
3、深度学习模型能很好的捕捉时间序列模式，但离线训练的深度学习模型难以适应分布变化的数据流。首先，其表示能力受限于预定义的固定结构，只能调整固定结构中隐藏层之间的参数，而忽略了调整不同隐藏层的重要性，无法灵活调整模型结构。其次，当传感器数据的采样率很高时，如果模型不能快速地适应这些新的数据，将导致性能下降。最后，这种方法无法调整模型的复杂性，即无法进行有效的模型选择。
4、离线学习的上述问题将累积决策偏差，影响模型学习复杂模式，并且流数据分析的“一次性查看”策略使错误难以纠正，对传感器监控系统如数据中心、智能海洋等产生严重不良影响，甚至威胁系统安全。
5、在线学习方法能够快速实时地对数据流进行学习，但是，如何使模型能够随着数据流从浅到深地学习，进而有效缓解概念漂移问题，并在数据量少时克服过拟合问题、在数据积累大量时克服欠拟合问题，是当前面临的挑战。
技术实现思路
1、为了解决上述问题，本专利技术提出了基于记忆重放变分自动编码器的iot数据在线预测系统，通过编码器和生成器的协同训练，并结合注意力机制和脑重放机制，缓解编码器对旧知识的遗忘，实现iot时间序列数据的高效预测。
2、为了实现上述目的，本专利技术采用如下技术方案：
3、第一方面，本专利技术提供一种基于记忆重放变分自动编码器的iot数据在线预测系统，包括：
4、预测模块，用于获取待预测iot数据，将待预测iot数据输入至训练好的记忆重放vae，得到预测结果；
5、训练模块，用于训练记忆重放vae；所述记忆重放vae包括编码器和生成器；记忆重放vae的训练过程为：
6、将第一样本数据输入编码器，得到第一样本潜在因素和第一样本预测结果；
7、将第一样本潜在因素输入生成器，得到第一样本重放数据；
8、将第二样本数据和第一样本重放数据输入编码器，得到融合类别潜在因素，以及第一样本、第二样本的预测结果；
9、基于第一样本预测结果和第一样本标签，以及第二样本预测结果和第二样本标签，计算损失函数，当损失最小时，训练完成。
10、优选地，所述编码器包括隐藏层和输出层；隐藏层包括注意力机制，用于调节隐藏层的参与权重，根据输入的iot数据得到预测结果；输出层用于根据输入的iot数据得到iot数据的潜在因素；
11、所述生成器用于根据潜在因素生成重放iot数据。
12、优选地，所述隐藏层包括注意力机制，用于调节隐藏层的参与权重，根据输入的iot数据得到预测结果，具体包括：
13、αj＝weight(pj)
14、
15、其中，prediction(*)是一个前馈网络，将隐藏表示转换为局部预测，weight(*)是一个带有softmax函数的前馈网络，计算每个隐藏层的权重；所有层的权重被归一化为weight(*)旨在确定最终预测中每个子结构的必要程度。
16、优选地，所述重放数据为潜在因素的分布特征。
17、第二方面，本专利技术提供一种基于记忆重放变分自动编码器的iot数据在线预测方法，包括：
18、获取待预测iot数据，将待预测iot数据输入至训练好的记忆重放vae，得到预测结果；
19、所述记忆重放vae包括编码器和生成器；记忆重放vae的训练过程为：
20、将第一样本数据输入编码器，得到第一样本潜在因素和第一样本预测结果；
21、将第一样本潜在因素输入生成器，得到第一样本重放数据；
22、将第二样本数据和第一样本重放数据输入编码器，得到融合类别潜在因素，以及第一样本、第二样本的预测结果；
23、基于第一样本预测结果和第一样本标签，以及第二样本预测结果和第二样本标签，计算损失函数，当损失最小时，训练完成。
24、第三方面，本专利技术提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现第二方面所述的一种基于记忆重放变分自动编码器的iot数据在线预测方法中的步骤。
25、第四方面，本专利技术提供一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现第二方面所述的一种基于记忆重放变分自动编码器的iot数据在线预测方法中的步骤。
26、与现有技术相比，本专利技术的有益效果为：
27、1.本专利技术提出了一种基于变分自编码器的在线深度学习模型，称为olvae模型。通过集成注意力机制，该模型能够动态调整各子结构的贡献，从而灵活地调整模型的复杂性和表示能力。
28、2.本专利技术提出了一种“大脑生成与重放机制”，通过生成代表过去数据分布的数据以重新激活代表过去记忆的神经活动模式，减少了存储需求的同时提升了传感器时间序列预测性能，以应对概念漂移挑战。
29、本专利技术附加方面的优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本专利技术的实践了解到。
本文档来自技高网...【技术保护点】
1.一种基于记忆重放变分自动编码器的IoT数据在线预测系统，其特征在于，包括：
2.如权利要求1所述的一种基于记忆重放变分自动编码器的IoT数据在线预测系统，其特征在于，所述编码器包括隐藏层和输出层；隐藏层包括注意力机制，用于调节隐藏层的参与权重，根据输入的IoT数据得到预测结果；输出层用于根据输入的IoT数据得到IoT数据的潜在因素；
3.如权利要求2所述的一种基于记忆重放变分自动编码器的IoT数据在线预测系统，其特征在于，所述隐藏层包括注意力机制，用于调节隐藏层的参与权重，根据输入的IoT数据得到预测结果，具体包括：
4.如权利要求1所述的一种基于记忆重放变分自动编码器的IoT数据在线预测系统，其特征在于，所述重放数据为潜在因素的分布特征。
5.一种基于记忆重放变分自动编码器的IoT数据在线预测方法，其特征在于，包括：
6.如权利要求5所述的一种基于记忆重放变分自动编码器的IoT数据在线预测方法，其特征在于，所述编码器包括隐藏层和输出层；隐藏层包括注意力机制，用于调节隐藏层的参与权重，根据输入的IoT数据得到预测结果
7.如权利要求6所述的一种基于记忆重放变分自动编码器的IoT数据在线预测方法，其特征在于，所述隐藏层包括注意力机制，用于调节隐藏层的参与权重，根据输入的IoT数据得到预测结果，具体包括：
8.如权利要求5所述的一种基于记忆重放变分自动编码器的IoT数据在线预测方法，其特征在于，所述重放数据为潜在因素的分布特征。
9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求5-8中任一项所述的一种基于记忆重放变分自动编码器的IoT数据在线预测方法中的步骤。
10.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求5-8中任一项所述的一种基于记忆重放变分自动编码器的IoT数据在线预测方法中的步骤。
...【技术特征摘要】
1.一种基于记忆重放变分自动编码器的iot数据在线预测系统，其特征在于，包括：
2.如权利要求1所述的一种基于记忆重放变分自动编码器的iot数据在线预测系统，其特征在于，所述编码器包括隐藏层和输出层；隐藏层包括注意力机制，用于调节隐藏层的参与权重，根据输入的iot数据得到预测结果；输出层用于根据输入的iot数据得到iot数据的潜在因素；
3.如权利要求2所述的一种基于记忆重放变分自动编码器的iot数据在线预测系统，其特征在于，所述隐藏层包括注意力机制，用于调节隐藏层的参与权重，根据输入的iot数据得到预测结果，具体包括：
4.如权利要求1所述的一种基于记忆重放变分自动编码器的iot数据在线预测系统，其特征在于，所述重放数据为潜在因素的分布特征。
5.一种基于记忆重放变分自动编码器的iot数据在线预测方法，其特征在于，包括：
6.如权利要求5所述的一种基于记忆重放变分自动编码器的iot数据在线预测方法，其特征在于，所述编码器包括隐藏层和输出层...
【专利技术属性】
技术研发人员：李响，赵志刚，宋健，武鲁，郭莹，吴晓明，杨美红，王英龙，
申请(专利权)人：山东省计算中心国家超级计算济南中心，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。