【技术实现步骤摘要】
工业物联网边缘设备中基于知识蒸馏的空时预测方法
[0001]本专利技术属于物联网边缘设备领域,具体是一种工业物联网边缘设备中基于知识蒸馏的空时预测方法。
技术介绍
[0002]在工业4.0时代,各种基于物联网的应用程序和服务,为实现更安全、更高效的工业智能化奠定了基础,如智能制造、预测与健康管理和工厂监控管理[1]等。随着物联网(Internet of Things,IoT)技术的高速发展,温度传感器、湿度传感器和气体传感器等在工业生产、设备监控、环保监测以及工业安全等领域得到广泛应用,实现了智能监控、智能诊断、智能决策,提高了生产力,降低能源消耗。
[0003]此外,随着信息系统和数据收集平台的出现和兴起,工业物联网设备生成的大量传感数据也使得物联网生态系统的不同领域大数据分析和挖掘成为可能[2]。因此,基于IoT传感层监测数据的准确预测至关重要,为工业物联网(Industrial Internet of Things,IIoT)感知环境、无缝决策、智能响应和控制设备提供保障,相关研究已经引起学者和工业领域的广泛关 ...
【技术保护点】
【技术特征摘要】
1.工业物联网边缘设备中基于知识蒸馏的空时预测方法,其特征在于,具体步骤如下:首先,利用膨胀时间卷积网络DTCN和动态更新的图卷积网络DGCN交替结合,形成教师网络TCN
‑
GCN模型,对传感器实时采集的二维数据进行空时预测;同时,利用特征提取模块和回归模块,搭建浅层学生网络LSTM或学生网络一维CNN,对传感器获取的二维空时数据进行预测;然后,利用GAN判别器将教师网络TCN
‑
GCN模型和学生网络输出的预测结果,分别进行特征变换,使学生网络学习拟合教师网络的特征捕捉能力,计算GAN判别器的损失函数L
GAN
;接着,教师网络对传感器采集的真实数据进行离群值剔除;最后,将GAN判别器的损失函数L
GAN
与跟教师网络拟合后的新学生网络的损失函数L
TOE
加权相加,得到最终的损失函数L,实现知识蒸馏,并利用损失函数L将新学生网络的输出与剔除离群值的真实数据做梯度下降,获得最终的空时预测结果。2.如权利要求1所述的工业物联网边缘设备中基于知识蒸馏的空时预测方法,其特征在于,所述的教师网络TCN
‑
GCN模型进行空时预测的具体过程为:步骤101、利用N个传感器分别采集包含时间步长与空间节点的二维数据,并构建初始的图邻接矩阵表示空间节点的关联关系;步骤102、将二维数据依次送入DTCN和DGCN分别提取时间和空间特征;具体为:首先,给定输入的二维数据x
in
,则经过DTCN的输出x
out
为:x
out
=tanh(f1(x
in
))
×
sigmoid(f2(x
in
))其中,f1表示滤波卷起函数,f2表示门控卷积函数,sigmoid(
·
)表示S型激活函数,tanh(
·
)表示正切双曲激活函数;然后,将DTCN捕捉的特征送入DGCN模块,其信息传递层为:然后,将DTCN捕捉的特征送入DGCN模块,其信息传递层为:然后,将DTCN捕捉的特征送入DGCN模块,其信息传递层为:其中,H
l
表示第l层的传播层;σ1和σ2为不同的激活函数,为动态采样得到的图邻接矩阵,W
l
‑1表示第l
‑
1层的网络权重;表示经过跳跃连接的传播层;β为控制保留根节点原始状态比率的超参数;H
(l)
是随着图卷积的深度增加节点状态不断更新的传播层,H
(l
‑
1)
表示保留的之前节点状态的传播层;H
out
为跳跃层叠加后的输出层;步骤103、通过不断重新采样,更新图邻接矩阵中各空间节点的关联关系;步骤104、将更新得到的图邻接矩阵与提取出的空间特征向量进行卷积运算,实现移动节点空间特征的不断更新;步骤105、根据不断更新的空间特征,实现二维数据的高精度预测;具体预测过程为:在时间步长t处输入的二维数据X表示为:X={z1[i],z2[i],
…
,z
t
[i]}其中,z
t
[i]表示在时间步长t处第i个传感器的二维数据值,i∈N;
则下一时间步长的预测值表示为:Y={z
t+1
[i]}3.如权利要求1所述的工业物联网边缘设备中基于知识蒸馏的空时预测方法,其特征在于,所述的学生网络LSTM的搭建过程为:首先,LSTM的四个门控结构对二维数据的时间特征进行记忆和提取;具体为:给定输入x
(t)
,经过LSTM的输出h
(t)
为:i
(t)
=σ(W
(i)
x
(t)
+U
(i)
h
(t
‑
1)
)f
(t)
=σ(W
(f)
x
(t)
+U
(f)
h
(t
‑
1)
)o
(t)
=σ(W
(o)
x
(t)
+U
(o)
h
(t
‑
1)
))h
(t)
=o
(t)
*tanh(c...
【专利技术属性】
技术研发人员:张颖慧,邢雅轩,白戈,
申请(专利权)人:内蒙古塔塔送变电工程有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。