【技术实现步骤摘要】
本专利技术涉及一种基于多模态自注意力机制的变压器故障诊断方法，属于人工智能。
技术介绍
1、变压器在电力系统中更是扮演着非常关键的角色。电力变压器具有电压等级变换、电能转移和分配等功能，其安全稳定的运行对于整个电网的状况都极为重要。 若变压器发生故障，轻则会造成设备损坏、报废，重则会导致大面积区域停电等重大生活生产事故。
2、在现有的技术下，传统式变压器故障诊断方法dga法操作简单，但存在故障诊断准确度较低以及反应速度过慢的缺点。近年来，人工智能的飞速发展为变压器的故障诊断和排查工作提供了新的方法。极限学习机(extreme learning machine，elm)的训练速度较快，但模型诊断的稳定性较差。专家系统难以取得足够的专家知识和经验；支持向量机可以解决小样本、局部极小值及过拟合等问题，但其实质上是二分类计算，在处理多类型问题时存在不完全分类或分类结果重复的情况；bp神经网络的训练约束速度很慢，容易陷入局部最优导致分类精度差。
技术实现思路
1、本专利技术所要解决的技术问题是克服现有技术的缺陷，提供一种基于多模态自注意力机制的变压器故障诊断方法。
2、为解决上述技术问题，本专利技术提供一种基于多模态自注意力机制的变压器故障诊断方法，包括：
3、获取待诊断的变压器图像，输入到预先训练好的基于多模态自注意力机制诊断模型，得到变压器的诊断信息；
4、所述基于多模态自注意力机制诊断模型的训练过程，包括：
5、获取历史变压器
6、获取用于对每种聚类表征进行融合预测的自注意力网络模型和对应的损失函数；
7、基于所述训练集、所述验证集、所述测试集和所述损失函数对所述自注意力网络模型进行训练、验证以及测试，测试通过所对应的自注意力网络模型作为所述训练好的基于多模态自注意力机制诊断模型；
8、输入自注意力网络模型的数据的处理过程，包括：
9、将变压器的图像和采集变压器参数信息的传感器数据分成若干个模态，并分别对每个模态提取特征，通过特征编码器将对各个模态提取的特征映射到统一特征表示空间，并分为两种聚类表征；
10、将所述两种聚类表征进行重构得到自注意力网络模型的输入。
11、进一步的，所述若干个模态包括：模态一、模态二、模态三和模态四；
12、模态一包括：各传感器采集的振动频率、变压器的局放采样峰值、变压器的局放峰值相位；
13、模态二包括：氢气量、一氧化碳量、二氧化碳量、甲烷量、乙烷量、乙烯量、乙炔量、总烃；
14、模态三包括：温度情况、是否漏油、声音情况；
15、模态四包括：传感器采集数据时的变压器图像信息。
16、进一步的，所述对每个模态提取特征，包括：
17、模态一至模态三通过两次双向长短期记忆神经网络进行特征提取，得到三种模态的特征提取表征，将所述三种模态的特征提取表征进行整合得到特征提取结果，公式表示为：
18、；
19、式中， h1,2,3表示整合得到特征提取结果， x1,2,3表示模态一至模态三的输入， lstm1表示第一个长短期记忆神经网络， lstm2表示第二个长短期记忆神经网络；
20、通过应用pil库中的image类将模态四对应的具体的图片转化为抽象的张量，通过对抽象的张量进行维度转化得到预设维度的结果，最后将得到的预设维度的结果经全连接层得出最终实际的结果。
21、进一步的，所述通过特征编码器将对各个模态提取的特征映射到统一特征表示空间，包括：
22、将根据模态一、模态二、模态三和模态四所分别提取到的特征通过两种编码器，映射到统一特征表示空间，并分为两种聚类表征；
23、所述两种编码器分别为各个模态自身应用的私有编码器以及所有四个模态公用的共享编码器。
24、进一步的，将所述两种聚类表征进行重构得到自注意力网络模型的输入；
25、所述重构的过程表示为：
26、；
27、式中，表示重构后的自注意力网络模型的输入，表示各个模态通过各自私有编码器后的结果，表示各个模态通过共享编码器后的结果， recon表示重构网络， m表示模态的序号。
28、进一步的，所述自注意力网络模型的训练融合过程表示为：
29、；
30、式中，表示最终结果， fusion表示融合网络， transformer表示多头注意力机制 transformer网络。
31、进一步的，所述损失函数包括：平均平方误差损失、不变性损失、相似性损失和重构性损失；
32、平均平方误差损失 l mse表示为：
33、；
34、式中，是实际值结果， mse表示求平均平方误差；
35、不变性损失 l diff表示为：
36、；
37、式中，是平方frobenius范数， t表示矩阵的转置， m1和 m2分别表示两种不同的模态，和分别表示 m1和 m2两种不同模态通过私有编码器后的结果；
38、相似性损失 l sim表示为：
39、；
40、式中， cmd表示中心力矩差异度量，和分别表示 m1和 m2两种不同模态通过共享编码器后的结果；
41、重构性损失 l recon表示为：
42、；
43、式中，为预先定义的decoder函数，， h m为各个模态特征提取后的结果，本文档来自技高网...
【技术保护点】
1.一种基于多模态自注意力机制的变压器故障诊断方法，其特征在于，包括：
2.根据权利要求1所述的基于多模态自注意力机制的变压器故障诊断方法，其特征在于，所述若干个模态包括：模态一、模态二、模态三和模态四；
3.根据权利要求2所述的基于多模态自注意力机制的变压器故障诊断方法，其特征在于，所述对每个模态提取特征，包括：
4.根据权利要求2所述的基于多模态自注意力机制的变压器故障诊断方法，其特征在于，所述通过特征编码器将对各个模态提取的特征映射到统一特征表示空间，包括：
5.根据权利要求4所述的基于多模态自注意力机制的变压器故障诊断方法，其特征在于，将所述两种聚类表征进行重构得到自注意力网络模型的输入；
6.根据权利要求5所述的基于多模态自注意力机制的变压器故障诊断方法，其特征在于，所述自注意力网络模型的训练融合过程表示为：
7.根据权利要求6所述的基于多模态自注意力机制的变压器故障诊断方法，其特征在于，所述损失函数包括：平均平方误差损失、不变性损失、相似性损失和重构性损失；
8.根据权利要求7所述的基
...【技术特征摘要】
1.一种基于多模态自注意力机制的变压器故障诊断方法，其特征在于，包括：
2.根据权利要求1所述的基于多模态自注意力机制的变压器故障诊断方法，其特征在于，所述若干个模态包括：模态一、模态二、模态三和模态四；
3.根据权利要求2所述的基于多模态自注意力机制的变压器故障诊断方法，其特征在于，所述对每个模态提取特征，包括：
4.根据权利要求2所述的基于多模态自注意力机制的变压器故障诊断方法，其特征在于，所述通过特征编码器将对各个模态提取的特征映射到统一特征表示空间，包括：
5.根据权...
【专利技术属性】
技术研发人员：岳东，殷旭飞，魏祥森，窦春霞，
申请(专利权)人：南京邮电大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。