一种混合深度残差收缩网络与XGBoost算法的工业过程性能评估方法技术

技术编号:31020445 阅读:25 留言:0更新日期:2021-11-30 03:08
本发明专利技术属于自动化过程控制领域,公开了一种混合深度残差收缩网络与XGBoost算法的工业过程性能评估方法。本发明专利技术开发了一种新的混合XGBoost算法与DRSN的故障诊断方法。其中,DRSN中的残差学习能有效避免模型退化问题,软阈值操作能够有效降低噪声和冗余信息对特征学习的影响。此外,使用效果更好的Nadam优化算法来更新网络参数,而不是传统的Adam算法。在最后的分类阶段,采用XGBoost分类算法对提取到的特征信息进行故障识别和分类,而不是传统的softmax分类器。实验结果表明,XGBoost具有更好的分类性能。好的分类性能。好的分类性能。

【技术实现步骤摘要】
一种混合深度残差收缩网络与XGBoost算法的工业过程性能评估方法


[0001]本专利技术属于自动化过程控制领域,尤其涉及一种混合深度残差收缩网络与XGBoost算法的工业过程性能评估方法。

技术介绍

[0002]现代故障诊断技术的产生对保障工业过程的生产安全,减少资源浪费发挥了重要的作用,其先后发展出了基于模型的方法,基于知识推理的方法和基于数据驱动的方法。基于模型的方法和基于知识推理的方法由于自身的局限性,对当前具有高维性、非线性、间歇性以及动态性等特点的复杂工业过程数据并不能取得令人满意的结果。基于数据驱动的方法由于局限性较小,只依赖于过往的故障数据,因此得到了较好的发展和应用。
[0003]基于数据驱动的方法可以进一步分为基于多元统计的方法、浅层学习方法以及深度学习方法。基于多元统计的方法和浅层学习的方法是工业过程常用的方法之一,但是面对工业数据中的高维性、非线性数据时,并不能取得令人满意的效果。深度学习技术是在浅层学习的基础上发展而来,其摆脱了传统方法需要手工提取特征的繁琐步骤,能够端到端自动的提取原始数据中非线性高维特征,不本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种混合深度残差收缩网络与XGBoost算法的工业过程性能评估方法,其特征在于,包括如下步骤:步骤1:以频率f
s
采集工业过程系统变量的运行数据,建立一个含有多变量,多类型故障的数据集,并对其进行数据预处理,在此基础上对故障类型进行编号打标签,设置对应的关系,之后对故障类型和标签划分相应的训练集和测试集;步骤2:将训练集输入到由多个残差收缩子块组成的网络中进行特征的初步提取;步骤3:FC层通过权值矩阵将提取的深层特征进行融合,经Dropout层后,输入到softmax层,并将输出结果与真实标签的交叉熵作为损失函数;步骤4:利用Nadam优化器沿梯度下降方向反向传播更新整个模型的参数,并优化交叉熵损失函数;步骤5:将模型性能最好时所提取到的特征输入到XGBoost分类器中拟合提升树;步骤6:故障诊断。2.根据权利要求1所述的混合深度残差收缩网络与XGBoost算法的工业过程性能评估方法,其特征在于,步骤1包括如下具体步骤:步骤1.1:数据预处理:对数据集进行离差标准化处理,对采集的原始信号数据集进行线性变化,使数据样本落在[0,1]区间,转换函数如下:式中x
i
表示样本数据;x
j
表示原始数据;min{
·
}表示原始数据中的最小值,max{
·
}表示原始数据中的最大值。步骤1.2:故障样本打标签:对数据集进行one

hot编码,使用N位状态寄存器来对N个故障进行编码,每个故障都有各自独立的寄存器位,且在任意时刻,只有其中一位有效。3.根据权利要求2所述的混合深度残差收缩网络与XGBoost算法的工业过程性能评估方法,其特征在于,步骤2的每个残差收缩子块由两层卷积网络(CNN)以及软阈值化操作模块所组成;两层CNN将提取到特征的绝对值输入到全局平均池化层(GAP)中,输出特征的一维向量,并经过两层FC网络后得到每个通道的收缩参数,通过应用sigmoid函数来归一化收缩参数并与GAP的输出相乘得到每个通道的阈值;最后,通过得到的阈值去除所提取特征中的无用信息,保留有用的信息并输出特征;两层CNN以及软阈值化模块中的FC层使用relu非线性激活函数和批归一化操作来提高网络的性能;步骤2.1:卷积网络的卷积运算,如下式所示:x
[l]
=f(W
[l]
*x
[l

1]
+b
[l]
)
ꢀꢀꢀꢀꢀꢀ
(2)式中x
[l]
表示第l层的输出,l∈[1,2,

,n],W
[l]
表示第l层卷积核,“*”表示卷积运算,b
[l]
表示第l层对应的偏置,f(
·
)表示激活函数;步骤2.2:BN层对输入数据进行批归一化操作,使得输出数据的均值0,方差为1,相关操作如下:
式中表示经BN层计算后的输出;y
i
表示输入的特征值;E表示输入特征值的均值;D表示输入特征值得方差;γ和β表示模型中需要训练的参数;步骤2.3:GAP将上层神经元簇的平局值作为池化操作后的值,具体为式中u和v表示池的大小,Y
p
表示池化操作的输出,i,j表示神经元;relu激活函数的一阶导数为0或1,函数表达为:f(x)=max(0,x)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(6)软阈值化操作对的具体实现为:输入到输出的导数为式中x和y分别是输入和输出特征,τ是一个正数阈值,且不能大于输入数据中的最大值;步骤2.4:在FC网络之后应用sigmoid函数,将缩放参数收缩到(0,1)的范围内,计算如下式中z
c
表示FC网络中第c个神经元的输出特征,α
c
表示归一化后的缩放参数,将上式乘以GAP输出的一维向量的绝对值就得到相应的阈值,具体如下:式中τ
c
表示第c个通道的阈值,m,n和c分别表示特征图...

【专利技术属性】
技术研发人员:刘凯柏建军张日东
申请(专利权)人:杭州电子科技大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1