一种工业设备多模态时序异常检测方法技术

本发明专利技术公开了一种工业设备多模态时序异常检测方法，包括步骤：对数据进行标准化，并将其转换为时间序列窗口，得到预处理窗口序列数据，利用多模态时间序列数据构造结构有向图；设计多模态时空特征提取网络，通过图注意力网络和时间维卷积网络获取不同级别的模态关联规则，提取时间序列特征；构建时间序列预测模块，模拟后续时间步长的正常输出；联合预测输出和实际输出计算异常分数，识别异常的时间序列。本方法步骤简明，所构建的网络模型结构简单，检测工业设备异常数据的过程快速而又准确。确。确。

【技术实现步骤摘要】
一种工业设备多模态时序异常检测方法


[0001]本专利技术涉及工业时间序列异常检测领域，尤其涉及一种工业设备多模态时序异常检测方法。

技术介绍

[0002]工业生产过程中，各种传感器和监测设备采集大量数据，例如温度、速度、功率等，这些数据通常按照时间顺序生成。通过对这些多模态时序数据进行异常检测，可以及时发现复杂工况下设备的故障、偏离预期的运行模式或异常行为，避免可能的生产事故和损失，多模态时间序列数据中的高效异常检测和诊断对现代工业应用具有重要意义。然而，如何建立一个能够快速、准确地定位异常数据点的系统是一个具有挑战性的问题。
[0003]时间序列异常检测是一个长期研究的问题。在之前的文献中主要研究两种类型的时间序列数据：单变量和多模态。对于前者分析和检测具有单一数据源的时间序列数据的异常情况，而对于后者，多模态时间序列一起分析和检测异常情况。当代的先进技术多以深度学习为基础设计监测架构，有效地利用时间序列数据中的时序依赖关系建模。这些模型能够处理变长序列、捕捉序列中的长期依赖关系，并具备记忆和遗忘的能力，适用于各种复杂的单变量时间序列异常检测任务，但对于具有复杂的空间依赖性和时间依赖性的多模态时间序列，如何处理模态间复杂的非线性关系仍然是个挑战。

技术实现思路

[0004]本专利技术提供一种基于多注意力时空图卷积的工业设备多模态时序异常检测方法，解决的技术问题在于：如何精准识别多模态时间序列中的异常片段。
[0005]为解决以上技术问题，本专利技术提供一种基于多注意力时空图卷积的工业设备多模态时序异常检测方法，包括步骤：
[0006]S1：获取待检测设备的多模态时间序列数据，使用具有特定长度的滑动窗口划分多模态时间序列序列，得到带有位置编码的固定长度的时间序列，利用多模态时间序列数据构造结构有向图以捕获各模态时间序列的行为特征；
[0007]S2：设计多模态时空特征提取网络，所述多模态时空特征提取网络包括图注意力网络和时间卷积网络，利用所述结构有向图，通过图注意力网络和时间卷积网络获取不同级别的模态关联规则，提取时间序列特征生成特征向量；
[0008]S3：构建时间序列预测模块，所述时间序列预测模块用于生成后续时间步长的预测输出；
[0009]S4：通过预测输出和实际输出计算异常分数，识别异常的时间序列。
[0010]进一步地，所述多模态时间序列数据由带有T个时间步长的M个模态的时间序列组成，每个模态序列包括N个单变量时间序列，所述多模态时间序列结构有向图G包括N个节点，每个节点存储一个单变量时间序列的表示，节点之间的边表示不同时间序列之间的依赖关系，同时为每个节点定义一个向量v作为嵌入，表示该节点的内在性质，根据有向图G构
建邻接矩阵A，A＝{A
ij
}，表示为：
[0011][0012][0013]其中，A
ij
表示从节点i到节点j的有向边表示，表示候选集，表示指示函数，当后的式子为真，则指示函数值为1，否则为0，e
ij
表示节点i和节点j的余弦相似度，TopK表示从候选集中选出的与节点i余弦相似度最大的节点的索引值，找到与自身余弦相似度最大的节点，标记有向边，出点为i。
[0014]进一步地，所述图注意力网络包括多头注意力模块、模态内注意力模块、模态间注意力模块，所述时间卷积网络包括三个标准卷积层；
[0015]所述步骤S2具体包括步骤：
[0016]S21：将步骤S1所得的带有位置编码的固定长度的时间序列，输入所述多头注意力模块，计算得到时间序列间独立于模态的空间关系特征；
[0017]S22：将步骤S1得到固定长度的时间序列，输入所述模态内注意力模块，计算得到集中于同一模态内不同时间序列的相关性的特征；
[0018]S23：将步骤S1得到固定长度的时间序列，输入所述模态间注意力模块，计算得到集中于不同模态间不同时间序列相关性的特征；
[0019]S24：连接S21、S22和S23生成的三种特征，输入所述时间卷积网络，在时间维度上应用标准卷积提取特征，得到多模态时空特征，生成特征向量。
[0020]进一步地，所述多头注意力模块用于对多模态时间序列之间与模态无关的空间关系进行建模，通过聚合其邻居的表示来更新每个节点的特征表示，计算公式如下：
[0021][0022][0023]其中，代表多头注意力模块中第l层第j个节点的特征表示，表示多头注意力模块第l+1层上第i个节点的特征表示，S表示注意头的数量，表示由第s个注意头计算出的第l层的第i个节点和第j个节点之间的缩放点积注意力分数，表示第s个注意头在第l层的权重矩阵。
[0024]进一步地，所述模态内注意力模块用于计算每个节点与同一模态内不同时间序列的注意力分数，提取同一模态内时间序列的相关特征，计算公式如下：
[0025][0026]其中，表示模态内注意力模块第l+1层上第i个节点的特征表示，表示模态内注意力模块第l层的第i个节点和第j个节点之间的注意力分数，表示模态内注意力模块第l层权重矩阵。
[0027]进一步地，所述模态间注意力模块用于计算每个节点与不同模态的各时间序列注意力分数，提取不同模态间时间序列的相关特征，计算公式如下：
[0028][0029]其中，表示模态间注意力模块第l+1层上第i个节点的特征表示，表示模态间注意力模块第l层的第i个节点和第j个节点之间的注意力分数，表示模态间注意力模块第l层权重矩阵。
[0030]进一步地，所述时间序列预测模块包括密集双向门控循环单元和回声状态网络，所述步骤S3具体包括：
[0031]S31：将步骤S2所得的特征向量和步骤S1所述的带有位置编码的固定长度的时间序列作为所述密集双向门控循环单元的输入，捕获时间序列特征中存在的依赖性，得到更新后的特征向量；
[0032]S32：将更新后的特征向量输入所述回声状态网络，得到预测的时间戳t处的结果。
[0033]进一步地，所述密集双向门控循环单元包括三个顺序连接的双向门控循环单元；所述双向门控循环单元包括输入层、三个顺序连接且正向传播的门控循环单元、三个顺序连接且反向传播的门控循环单元和输出层；所述门控循环单元是一种门机制单元，包括更新门和重置门，重置门控制t
‑
1时刻传递过来的特征信息有多少可以被利用，连接t时刻的的输入和t
‑
1时刻的输出并进行线性变换，得到对t时刻信息处理后的结果，将该结果经更新门选择，和t
‑
1时刻的输出权重相加，得到t时刻的输出。
[0034]进一步地，所述回声状态网络包括多个输入单元、隐层和多个输出单元；
[0035]所述隐层包括多个由随机生成且稀疏连接固定不变的内部权重矩阵得到的神经元，训练前利用一部分训练数据降低隐层噪声，更新至隐层最佳状态，再将特征输入隐层，经过多重线性组合，得到结果。
[0036]进一步地，在所述步骤S4中，所述本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种工业设备多模态时序异常检测方法，其特征在于，包括步骤：S1：获取待检测设备的多模态时间序列数据，使用具有特定长度的滑动窗口划分多模态时间序列序列，得到带有位置编码的固定长度的时间序列，利用多模态时间序列数据构造结构有向图以捕获各模态时间序列的行为特征；S2：设计多模态时空特征提取网络，所述多模态时空特征提取网络包括图注意力网络和时间卷积网络，利用所述结构有向图，通过图注意力网络和时间卷积网络获取不同级别的模态关联规则，提取时间序列特征生成特征向量；S3：构建时间序列预测模块，所述时间序列预测模块用于生成后续时间步长的预测输出；S4：通过预测输出和实际输出计算异常分数，识别异常的时间序列。2.根据权利要求1所述的一种工业设备多模态时序异常检测方法，其特征在于，所述多模态时间序列数据由带有T个时间步长的M个模态的时间序列组成，每个模态序列包括N个单变量时间序列，所述多模态时间序列结构有向图G包括N个节点，每个节点存储一个单变量时间序列的表示，节点之间的边表示不同时间序列之间的依赖关系，同时为每个节点定义一个向量v作为嵌入，表示该节点的内在性质，根据有向图G构建邻接矩阵A，A＝{A
ij
}，表示为：示为：其中，A
ij
表示从节点i到节点j的有向边表示，表示候选集，表示指示函数，当后的式子为真，则指示函数值为1，否则为0，e
ij
表示节点i和节点j的余弦相似度，TopK表示从候选集中选出的与节点i余弦相似度最大的节点的索引值，找到与自身余弦相似度最大的节点，标记有向边，出点为i。3.根据权利要求1所述的一种工业设备多模态时序异常检测方法，其特征在于，所述图注意力网络包括多头注意力模块、模态内注意力模块、模态间注意力模块，所述时间卷积网络包括三个标准卷积层；所述步骤S2具体包括步骤：S21：将步骤S1所得的带有位置编码的固定长度的时间序列，输入所述多头注意力模块，计算得到时间序列间独立于模态的空间关系特征；S22：将步骤S1得到固定长度的时间序列，输入所述模态内注意力模块，计算得到集中于同一模态内不同时间序列的相关性的特征；S23：将步骤S1得到固定长度的时间序列，输入所述模态间注意力模块，计算得到集中于不同模态间不同时间序列相关性的特征；S24：连接S21、S22和S23生成的三种特征，输入所述时间卷积网络，在时间维度上应用标准卷积提取特征，得到多模态时空特征，生成特征向量。4.根据权利要求3所述的一种工业设备多模态时序异常检测方法，其特征在于，所述多头注意力模块用于对多模态时间序列之间与模态无关的空间关系进行建模，通过聚合其邻居的表示来更新每个节点的特征表示，计算公式如下：
其中，代表多头注意力模块中第l层第j个节点的特征表示，表示多头注意力模块第l+1层上第i个节点的特征表示，S表示注意头的数量，表示由第s个注意头计算出的第l层的第i个节点和第j个节点之间的缩放点积注意力分数，表示第s个注意头在第l层的权重矩阵。5.根据权利要求3所述的一...

【专利技术属性】
技术研发人员：利节，覃锐，唐辉荣，蒲文良，罗军，于同奎，曹俊，
申请(专利权)人：重庆科技学院，
类型：发明
国别省市：