System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于自动编码器和注意力机制的图异常检测方法及系统技术方案_技高网

基于自动编码器和注意力机制的图异常检测方法及系统技术方案

技术编号:40088479 阅读:12 留言:0更新日期:2024-01-23 15:50
本发明专利技术公开了一种基于自动编码器和注意力机制的图异常检测方法及系统,方法包括:通过预设的多头跳跃连接注意力机制分别为图属性网络和图结构网络中的每个节点分配不同的权重计算隐向量,得到第一隐向量以及第二隐向量;以最小化网络结构和节点属性为目标的第一损失函数对第一隐向和第二隐向量进行解码重构,得到第一特征向量和第二特征向量;将第一隐向量、第二隐向量、第一重构损失误差、第二重构损失误差进行拼接得到输入向量;将输入向量输入至预设的估计网络中,通过估计网络中第二损失函数计算各个节点的分布概率,并根据各个节点的分布概率计算每个节点的异常分数值。解决了无法应用于复杂的交互模式,并且无法提取非线性特征的问题。

【技术实现步骤摘要】

本专利技术属于电力自动化,尤其涉及一种基于自动编码器和注意力机制的图异常检测方法及系统


技术介绍

1、电力系统中存在各种类型的异常,例如电压异常、电流异常、功率异常等。这些异常可能是由于设备故障、外界干扰、恶意攻击等原因引起的。异常的发生会影响电力系统的稳定性和可靠性,甚至可能导致设备损坏、停电甚至事故。因此,及时准确地检测和诊断异常情况对于电力系统的运行和安全至关重要。

2、图异常检测是一种基于图论和机器学习的方法,可以帮助识别和分析数据中的异常模式。在电力物联网中,可以利用图异常检测方法对电力数据进行建模和分析。通过构建电力系统中各个设备之间的连接关系,可以将电力数据表示为图数据,并利用图异常检测方法来发现异常模式。

3、目前已有的基于深度学习的无监督异常检测方法大都采用基于残差分析的思想,在基于残差分析的异常检测方法中,原始数据与估计数据的差距(即重构误差)是显示数据集中实例异常的有力指标。具体来说,具有较大重构误差的数据实例更有可能被认为是异常,因为它们的模式明显偏离大多数情况。在各种基于残差分析的异常检测方法中,深度自编码器实现了最先进的性能。深度自编码器是所有无监督的深度学习异常检测模型的核心,其思想是 假定正常的实例数目比异常实例数目多,深度自编码器可以记住正常的模式,但不能有效地从低维投影重建这些异常点,因此这些具有较少出现次数的异常点在通过自编码器后往往具有较大的残差,从而被判别为异常点。该类模型的框架是针对输入数据通过一个编码器(encoder)得到数据的隐层表示,然后该表示通过一个解码器(decoder)重构输入数据,最后用输入和重构的输出之间的残差损失(residual loss)大小作为衡量数据异常的指标。

4、缺陷:一些基于深度学习的异常检测方法往往将节点的结构和属性信息分开考虑,忽略了两者之间的某些交互信息。

5、注意力机制在越来越多的领域取得成功,图注意力网络也得到了广泛的研究和关注。通过注意力机制定义聚合函数,邻接矩阵仅被用来定义相关节点。具体来说,为了获得节点更好的特征表示,首先针对节点特征做一个线性变换,再针对中心节点i,计算邻居节点j对节点i的重要性程度,然后通过softmax函数归一化获得节点的重要性程度,最后通过加权求和的聚集函数来获得节点的表示,在获得高质量的嵌入 表示后将重构损失当作异常的可能性大小。

6、缺陷:无法捕捉数据非线性关系的能力来获得节点更好的表示。

7、因此,上述现有图异常检测技术的缺点可以总结归纳为:无法应用于复杂的交互模式,并且无法提取非线性特征。


技术实现思路

1、本专利技术提供一种基于自动编码器和注意力机制的图异常检测方法及系统,用于解决无法应用于复杂的交互模式,并且无法提取非线性特征的技术问题。

2、第一方面,本专利技术提供一种基于自动编码器和注意力机制的图异常检测方法,包括:

3、以各个设备为节点和不同节点之间的关联关系为边构建图结构网络s,以及以各个设备为节点、每个节点的流量数据、业务数据作为相对应节点的初始特征和不同节点之间的关联关系为边构建图属性网络,其中 是邻接矩阵,是属性矩阵,为矩阵维度,n为节点总数,d为属性特征个数;

4、获取不同设备的流量业务数据以及不同设备之间的关联关系数据,再将所述流量业务数据和所述关联关系数据分别输入至所述图属性网络g和所述图结构网络s中;

5、通过预设的多头跳跃连接注意力机制分别为所述图属性网络g和所述图结构网络s中的每个节点分配不同的权重计算隐向量,得到与所述图属性网络g相对应的第一隐向量以及与所述图结构网络s相对应的第二隐向量;

6、以最小化网络结构和节点属性为目标的第一损失函数对所述第一隐向量和所述第二隐向量进行解码重构,得到与所述第一隐向量对应的第一特征向量和与所述第二隐向量对应的第二特征向量;

7、通过下采样的方式分别将第一重构损失误差的维度与第一隐向量的维度对齐、第二重构损失误差的维度与第二隐向量的维度对齐,若第一隐向量的维度和/或第二隐向量的维度为1*k,第一重构损失误差的维度和/或第二重构损失误差的维度为1*d,则在第一重构损失误差和/或第二重构损失误差的d个特征中,对每个特征以k/d的概率被选中组成新的重构误差,得到降维后的第一目标重构损失误差和/或第二目标重构损失误差,其中,所述第一重构损失误差由所述第一特征向量与所述第一隐向量作差得到,所述第二重构损失误差由所述第二特征向量与所述第二隐向量作差得到,

8、将所述第一目标重构损失误差和/或所述第二目标重构损失误差分别与所述第一隐向量和/或所述第二隐向量进行向量相加,并对相加后的第一隐向量和所述第二隐向量做外积进行升维处理,得到输入向量;

9、将输入向量输入至预设的估计网络中,通过所述估计网络中第二损失函数计算各个节点的分布概率,并根据所述各个节点的分布概率计算每个节点的异常分数值。

10、第二方面,本专利技术提供一种基于自动编码器和注意力机制的图异常检测系统,包括:

11、构建模块,配置为以各个设备为节点和不同节点之间的关联关系为边构建图结构网络s,以及以各个设备为节点、每个节点的流量数据、业务数据作为相对应节点的初始特征和不同节点之间的关联关系为边构建图属性网络,其中 是邻接矩阵,是属性矩阵,为矩阵维度,n为节点总数,d为属性特征个数;

12、获取模块,配置为获取不同设备的流量业务数据以及不同设备之间的关联关系数据,再将所述流量业务数据和所述关联关系数据分别输入至所述图属性网络g和所述图结构网络s中;

13、第一计算模块,配置为通过预设的多头跳跃连接注意力机制分别为所述图属性网络g和所述图结构网络s中的每个节点分配不同的权重计算隐向量,得到与所述图属性网络g相对应的第一隐向量以及与所述图结构网络s相对应的第二隐向量;

14、重构模块,配置为以最小化网络结构和节点属性为目标的第一损失函数对所述第一隐向量和所述第二隐向量进行解码重构,得到与所述第一隐向量对应的第一特征向量和与所述第二隐向量对应的第二特征向量;

15、降维模块,配置为通过下采样的方式分别将第一重构损失误差的维度与第一隐向量的维度对齐、第二重构损失误差的维度与第二隐向量的维度对齐,若第一隐向量的维度和/或第二隐向量的维度为1*k,第一重构损失误差的维度和/或第二重构损失误差的维度为1*d,则在第一重构损失误差和/或第二重构损失误差的d个特征中,对每个特征以k/d的概率被选中组成新的重构误差,得到降维后的第一目标重构损失误差和/或第二目标重构损失误差,其中,所述第一重构损失误差由所述第一特征向量与所述第一隐向量作差得到,所述第二重构损失误差由所述第二特征向量与所述第二隐向量作差得到,

16、处理模块,配置为将所述第一目标重构损失误差和/或所述第二目标重构损失误差分别与所述第一隐向量和/或所述第二隐向量进行向量相加,并对相加后的第一隐向量本文档来自技高网...

【技术保护点】

1.一种基于自动编码器和注意力机制的图异常检测方法,其特征在于,包括:

2.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法,其特征在于,所述流量数据包括源IP地址子数据,目标IP地址子数据,源MAC地址子数据、目标MAC地址子数据、通信协议子数据、数据包长度子数据和时间戳子数据;

3.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法,其特征在于,其中,通过预设的多头跳跃连接注意力机制分为所述图属性网络G中的每个节点分配不同的权重计算隐向量,得到与所述图属性网络G相对应的第一隐向量包括:

4.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法,其特征在于,其中,通过预设的多头跳跃连接注意力机制为所述图结构网络S中的每个节点分配不同的权重计算隐向量,得到与所述图结构网络S相对应的第二隐向量包括:

5.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法,其特征在于,所述以最小化网络结构和节点属性为目标的第一损失函数的表达式为:

6.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法,其特征在于,所述第二损失函数的表达式为:

7.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法,其特征在于,其中,根据所述各个节点的分布概率计算每个节点的异常分数值的表达式为:

8.一种基于自动编码器和注意力机制的图异常检测系统,其特征在于,包括:

9.一种电子设备,其特征在于,包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至7任一项所述的方法。

10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现权利要求1至7任一项所述的方法。

...

【技术特征摘要】

1.一种基于自动编码器和注意力机制的图异常检测方法,其特征在于,包括:

2.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法,其特征在于,所述流量数据包括源ip地址子数据,目标ip地址子数据,源mac地址子数据、目标mac地址子数据、通信协议子数据、数据包长度子数据和时间戳子数据;

3.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法,其特征在于,其中,通过预设的多头跳跃连接注意力机制分为所述图属性网络g中的每个节点分配不同的权重计算隐向量,得到与所述图属性网络g相对应的第一隐向量包括:

4.根据权利要求1所述的一种基于自动编码器和注意力机制的图异常检测方法,其特征在于,其中,通过预设的多头跳跃连接注意力机制为所述图结构网络s中的每个节点分配不同的权重计算隐向量,得到与所述图结构网络s相对应的第二隐向量包括:

5.根据权利要求1所述的一种基于自动编码器和注意力机制的图...

【专利技术属性】
技术研发人员:肖勇才郑晗欣杨柳刘旷也陈明亮邱日轩喻宝禄
申请(专利权)人:南昌科晨电力试验研究有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1