基于多级注意力和特征融合的变压器故障诊断方法及系统技术方案

本发明专利技术公开了一种基于多级注意力和特征融合的变压器故障诊断方法及系统，属于电力变压器声纹感知与故障诊断技术领域，方法包括：实时采集待测电力变压器的声纹信号；对采集的声纹信号数据进行预处理并划分训练集和测试集；根据采集的声纹信号和故障诊断模型，进行变压器故障诊断；其中，所述故障诊断模型是通过建立卷积神经网络提取数据特征，利用低层特征分辨率高包含更多的位置细节信息而噪声多和高层特征具有更高的语义信息而分辨率低对细节的感知力差的特点，对低层特征和高层特征进行融合处理，并基于变压器不同故障类型的声纹信号构成训练集和测试集进行训练、测试得到的。本发明专利技术能够确定故障类型及故障位置，提高了故障诊断的准确率。了故障诊断的准确率。了故障诊断的准确率。

【技术实现步骤摘要】
基于多级注意力和特征融合的变压器故障诊断方法及系统


[0001]本专利技术涉及一种基于多级注意力和特征融合的变压器故障诊断方法及系统，属于电力变压器声纹感知与故障诊断


技术介绍

[0002]本部分的陈述仅仅是提供了与本专利技术相关的
技术介绍
，并不必然构成现有技术。
[0003]进入二十一世纪后，结合信号处理技术发展以及最新的研究成果，故障诊断技术已成为一门独立且完整的学科，并应用在如电网、高铁等多个行业领域。近年来，随着电网规模的不断增加，电网的拓扑结构的逐渐复杂，导致影响电网运行的不确定性因素增加，变压器故障诊断是电网诊断的核心一环，因此针对变压器的故障诊断技术成为电力系统研究的主攻方向，并取得了显著性成果。尤其是基于深度学习的电网故障诊断方法也得到了诸多学者的青睐。
[0004]电力变压器的振动噪声与其目前的工作状态紧密相关，当电力设备的零部件故障导致状态变化后，其声纹信号特征也会相应改变，因此通过监视声纹信号的特征便能判断设备的运行状态，并及时发现设备是否发生故障，以及故障类别。
[0005]依靠专家对设备进行观察和诊断是最早的电网诊断和维修方法，通过合理安装传感器并使用合适的方法来分析结果进而确定故障类型及故障位置，但这种方法不仅造成了劳动力的浪费，而且维护的效率和质量难以保证。

技术实现思路

[0006]为了解决上述问题，本专利技术提出了一种基于多级注意力和特征融合的变压器故障诊断方法及系统，能够确定故障类型及故障位置，提高故障诊断的准确率。
[0007]本专利技术解决其技术问题采取的技术方案是：第一方面，本专利技术实施例提供的一种基于多级注意力和特征融合的变压器故障诊断方法，包括以下步骤：实时采集待测电力变压器的声纹信号；对采集的声纹信号数据进行预处理并划分训练集和测试集；根据采集的待测电力变压器的声纹信号和故障诊断模型，进行变压器故障诊断；其中，所述故障诊断模型是通过建立卷积神经网络提取数据底层特征，使用底层的卷积网络提取底层特征，并连续使用卷积层和双向GRU层提取高层特征，之后将底层特征和高层特征分别作为注意力机制的查询向量和键向量进行特征融合，从而将电力变压器声纹数据中的位置信息嵌入到注意力机制中。
[0008]作为本实施例一种可能的实现方式，所述声纹信号为通过声阵列设备采集的待测电力变压器的声纹信号。
[0009]作为本实施例一种可能的实现方式，所述对采集的声纹信号数据进行预处理并划分训练集和测试集，包括：
对采集的声纹信号数据进行切片处理，获得数据集；将变压器的声纹信号数据的赋予标签，并转换为独热编码；利用NumPy产生一个随机数列，利用该随机数列将切片后的数据以及标签打乱，并划分训练集和测试集。
[0010]作为本实施例一种可能的实现方式，所述训练集和测试集的样本数据比例为4:1。
[0011]作为本实施例一种可能的实现方式，所述故障诊断模型的建立过程为：将卷积神经网络的两个卷积层和一个池化层封装为CFE模块，将双向求和GRU（Gate Recurrent Unit，循环神经网络）和注意力机制（attention）封装为GAT模块，所述的CFE和GAT模块各有三个且一一相对应；将每一个CFE模块的输出特征作为目标域(Target)，并作为相对应的GAT中注意力机制的查询向量(query)；将最后一个CFE模块的输出连接到第一个GAT模块中的双向GRU，并计算双向GRU的向量和；将双向求和GRU网络的输出作为源域(Source)，并作为相对应注意力机制中的键向量(key)；对建立的模型进行训练学习，得到最终的故障诊断模型。
[0012]作为本实施例一种可能的实现方式，所述CFE模块的建立过程为：构建一个轻量级的卷积网络，所述卷积网络由六个卷积层和三个池化层组成，由两个卷积层和一个池化层组成一个CFE模块；所述卷积层的卷积运算表达式为：(1)其中，表示第l层的输出;表示第层第i个通道的输出；表示层的第c个通道；和分别表示权重和偏置；每个卷积层都采用线性整流函数ReLU作为激活函数，且在每一个卷积层中激活一半的神经元；ReLU函数表达式为：(2)所述池化层的池化计算表达式为：(3)其中，表示第l层第i个通道第t个神经元的值；S表示池化内核的大小；表示第l层第i个通道的第j个神经元的值。
[0013]作为本实施例一种可能的实现方式，所述GAT模块的建立过程为：定义GRU的网络的重置门和更新门：
(4)(5)(6)(7)其中，r
t
和u
t
分别表示当前时间步的重置门和更新门，为当前时间步输入；为上一时间步的隐藏状态，W表示权重矩阵，，表示重置门和更新门的权重参数，，为偏差参数，为按元素相乘，为GRU的输出，为候选隐藏层输出；在GRU的基础上设置双向求和GRU，双向GRU的输出为：(8)(9)其中，和表示正向GRU隐藏状态和输入的权重矩阵，为正向GRU的偏置项；和表示反向GRU隐藏状态和输入的权重矩阵，为反向GRU的偏置项；将两个双向GRU堆叠形成两层不同方向的GRU层，利用Bidirectional函数将两层GRU的结果进行拼接联合：(10)其中，为正向GRU输出，为反向GRU输出，为双向GRU输出。
[0014]作为本实施例一种可能的实现方式，所述注意力机制的计算公式为：(11)其中，score()表示评价函数，表示注意力分布，即在给定key和query条件下选择第i个输入向量的概率，key为键向量，query为查询向量。
[0015]第二方面，本专利技术实施例提供的一种基于多级注意力和特征融合的变压器故障诊断系统，包括：数据采集模块，用于实时采集待测电力变压器的声纹信号；数据预处理模块，用于对采集的声纹信号数据进行预处理并划分训练集和测试集；故障诊断模块，用于根据采集的待测电力变压器的声纹信号和故障诊断模型，进行变压器故障诊断；其中，所述故障诊断模型是通过建立卷积神经网络提取数据底层特征，使用底层的卷积网络提取底层特征，并连续使用卷积层和双向GRU层提取高层特征，之后将底层特征和高层特征分别作为注意力机制的查询向量和键向量进行特征融合，从而将电力变压器声
纹数据中的位置信息嵌入到注意力机制中。
[0016]作为本实施例一种可能的实现方式，所述数据采集模块通过声阵列设备采集待测电力变压器的声纹信号。
[0017]作为本实施例一种可能的实现方式，所述数据预处理模块包括：切片处理模块，用于对采集的声纹信号数据进行切片处理，获得数据集；标签赋予模块，用于将变压器的声纹信号数据的赋予标签，并转换为独热编码；样本划分模块，用于利用NumPy产生一个随机数列，利用该随机数列将切片后的数据以及标签打乱，并划分训练集和测试集。
[0018]作为本实施例一种可能的实现方式，所述训练集和测试集的样本数据比例为4:1。
[0019]作为本实施例一种可能的实现方式，所述故障诊断模块建立故障诊断模型的过程为：将卷积神经网络的两个卷积层和一个池化层封装为CFE模块，将双向求本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于多级注意力和特征融合的变压器故障诊断方法，其特征在于，包括以下步骤：实时采集待测电力变压器的声纹信号；对采集的声纹信号数据进行预处理并划分训练集和测试集；根据采集的待测电力变压器的声纹信号和故障诊断模型，进行变压器故障诊断；其中，所述故障诊断模型是通过建立卷积神经网络提取数据底层特征，使用底层的卷积网络提取底层特征，并连续使用卷积层和双向GRU层提取高层特征，之后将底层特征和高层特征分别作为注意力机制的查询向量和键向量进行特征融合，从而将电力变压器声纹数据中的位置信息嵌入到注意力机制中。2.根据权利要求1所述的基于多级注意力和特征融合的变压器故障诊断方法，其特征在于，所述声纹信号为通过声阵列设备采集的待测电力变压器的声纹信号。3.根据权利要求1所述的基于多级注意力和特征融合的变压器故障诊断方法，其特征在于，所述对采集的声纹信号数据进行预处理并划分训练集和测试集，包括：对采集的声纹信号数据进行切片处理，获得数据集；将变压器的声纹信号数据的赋予标签，并转换为独热编码；利用NumPy产生一个随机数列，利用该随机数列将切片后的数据以及标签打乱，并划分训练集和测试集。4.根据权利要求1
‑
3任意一项所述的基于多级注意力和特征融合的变压器故障诊断方法，其特征在于，所述故障诊断模型的建立过程为：将卷积神经网络的两个卷积层和一个池化层封装为CFE模块，将双向求和GRU和注意力机制封装为GAT模块，所述的CFE和GAT模块各有三个且一一相对应；将每一个CFE模块的输出特征作为目标域，并作为相对应的GAT中注意力机制的查询向量；将最后一个CFE模块的输出连接到第一个GAT模块中的双向GRU，并计算双向GRU的向量和；将双向求和GRU网络的输出作为源域，并作为相对应注意力机制中的键向量；对建立的模型进行训练学习，得到最终的故障诊断模型。5.根据权利要求4所述的基于多级注意力和特征融合的变压器故障诊断方法，其特征在于，所述CFE模块的建立过程为：构建一个轻量级的卷积网络，所述卷积网络由六个卷积层和三个池化层组成，由两个卷积层和一个池化层组成一个CFE模块；所述卷积层的卷积运算表达式为：(1)其中，表示第l层的输出;表示第层第i个通道的输出；表示层的第c个通道；和分别表示权重和偏置；每个卷积层都采用线性整流函数ReLU作为激活函数，且在每一个卷积层中激活一半的神经元；
ReLU函数表达式为：(2)所述池化层的池化计算表达式为：(3)其中，表示第l层第i个通道第t个神经元的值；S表示池化内核的大小；表示第l层第i个通道的第j个神经元的值。6.根据权利要求4所述的基于多级注意力和特征融合的变压器故障诊断方法，其特征在于，所述GAT模块的建立过程为：定义GRU的网络的重置门和更新门：(4)(5)(6)(7)其中，r
t
和u
t
分别表示当前时间步的重置门和更新门，为当前时间步输入；为上一时间步的隐藏状态，W表示权重矩阵，，表示重置门和更新门的权重参数，，为偏差参数，为按元素相乘，为GRU的输出，为候选隐藏层输出；在GRU的基础上设置双向求和GRU，双向GRU的输出为：(8)(9)其中，和表示正向GRU隐藏状态和输入的权重矩阵，为正向GRU的偏置项；和表示反向GRU隐藏状态和输入的权重矩阵，为反向GRU的偏置项；将两个双向GRU堆叠形成两层不同方向的GRU层，利用Bidirectional函数将两层GRU的结果进行拼接联合：(10)其中，为正向GRU输出，为反向GRU输出，为双向GRU输出。7.根据权利要求4所述的基于多级注意力和特征融合的变压器故障诊断方法，其特征在于，所述注意力机制的计算公式为：
(11)其中，score()表示评价函数，表示注意力分布，即在给定key和query条件下选择第i个输入向量的概率，key为键向量，query为查询向量。8.一种基于多级注意力和特征融合的变压器故障诊断系统，其特征在于，包括：数据采集模块，用于实时采集待测电力变压器的声纹信号；数据预处理模块，用于对采集的声纹信号数据进行预处理并划分训练集和测试集；故障诊断模块，用于根据采集的待测电力变压器的声纹信号和故障诊断模型，进行变压器故障诊断；其中，所述故障诊断模型是通过建立卷积神经网络...

【专利技术属性】
技术研发人员：李猷民，胥明凯，吕学宾，于光远，李琮，刘春明，王思源，吕晓平，王宁，韦良，王淑颖，王云鹏，
申请(专利权)人：国网山东省电力公司济南供电公司，
类型：发明
国别省市：