System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及软件工程与网络安全,尤其涉及一种基于多源数据融合的服务器异常检测方法和装置。
技术介绍
1、现代工业系统是复杂的分布式系统,由运行在不同机器上的数十到数千个服务组成。这些系统经常面临网络延迟、硬件故障和应用程序故障等各种故障场景。近年来,软件系统的规模和复杂性急剧扩大。在大型软件系统中,异常是不可避免的,甚至会导致巨大的收入损失。为了保持系统正常运行,需要生成大量高维传感器数据以进行连续监控和数据集分析。服务提供商的核心能力在于保证软件系统的可靠性,其中自动异常检测是一个主要步骤,并已在社区中广泛使用。在真实场景中,许多类型的监控数据,包括系统/软件度量、日志和调用链,在软件可靠性工程中发挥着重要作用。
2、然而,现有方法通常仅利用单一类型的监测数据(通常是日志或度量指标),或者无法有效利用多源数据之间的联合信息,使得传统的异常检测技术效果不佳。
技术实现思路
1、本专利技术提供一种基于多源数据融合的服务器异常检测方法和装置,用以解决现有技术中检测技术效果不佳的缺陷,能够准确检测服务器异常运行行为。
2、本专利技术提供一种基于多源数据融合的服务器异常检测方法,包括:
3、获取服务器运行时生成的日志数据和指标数据;
4、将所述日志数据和指标数据输入至异常检测模型中分别进行处理,然后进行异构数据融合得到融合数据,根据融合数据得到异常检测结果;
5、其中,所述异常检测模型通过服务器正常运行时产生的日志数据和指标数据
6、根据本专利技术提供的一种服务器异常检测方法,异常检测模型包括:日志编码器和指标编码器;
7、将所述日志数据和指标数据输入至异常检测模型中进行处理,然后进行异构数据融合得到融合数据,根据融合数据得到异常检测结果,包括:
8、将所述日志数据输入至日志编码器进行向量化处理,得到日志模态特征向量;
9、将所述指标数据输入至指标编码器进行建模处理,得到指标模态特征向量;
10、将日志模态特征向量和指标模态特征向量进行融合处理,得到融合数据;
11、根据所述融合数据得到异常检测结果。
12、根据本专利技术提供的一种服务器异常检测方法,在将所述日志数据输入至日志编码器进行向量化处理,得到日志模态特征向量之前,所述方法还包括:
13、对日志数据通过日志解析器进行预处理,将非结构化的日志数据转换为结构化的日志数据;
14、将所述日志数据输入至日志编码器进行向量化处理,得到日志模态特征向量,包括:
15、将所述结构化的日志数据输入至日志编码器进行向量化处理,得到日志模态特征向量。
16、根据本专利技术提供的一种服务器异常检测方法,所述日志编码器包括:词嵌入模型和双向编码模型;
17、将所述结构化的日志数据输入至日志编码器进行向量化处理,得到日志模态特征向量,包括:
18、将所述结构化的日志数据输入至所述词嵌入模型进行解析,得到嵌入向量;
19、将所述嵌入向量输入至所述双向编码模型进行处理,得到日志模板特征向量,其中,所述双向编码模型用于捕获日志数据的上下文语义信息。
20、根据本专利技术提供的一种服务器异常检测方法,所述指标编码器包括指标方面内编码器和指标方面间编码器;
21、将所述指标数据输入至指标编码器进行建模处理,得到指标模态特征向量,包括:
22、对所述指标数据输入至所述指标方面内编码器进行处理,将描绘系统相同方面的指标数据进行指标内编码,得到潜在特征向量;
23、对所述潜在特征向量输入至所述指标方面间编码器进行处理,将描述系统不同方面的指标数据进行指标间编码,得到指标模态特征向量。
24、根据本专利技术提供的一种服务器异常检测方法,所述异常检测模型还包括:门控线性单元;
25、将日志模态特征向量和指标模态特征向量进行融合处理,得到融合数据,包括:将所述日志模态特征向量和所述指标模态特征向量进行拼接,得到拼接向量;将所述拼接向量输入至门控线性单元进行处理,得到所述融合数据。
26、根据本专利技术提供的一种服务器异常检测方法,所述异常检测模型还包括:全连接层和归一化层;
27、根据所述融合数据得到异常检测结果,包括:
28、将所述融合数据依次输入至全连接层和归一化层,得到检测结果;
29、将所述检测结果与预设阈值进行比较,若所述检测结果大于所述预设阈值,则所述检测结果为正常;若所述检测结果小于等于所述预设阈值,则所述检测结果为异常。
30、本专利技术还提供一种基于多源数据融合的服务器异常检测装置,包括:数据获取模块,用于获取服务器运行时生成的日志数据和指标数据;
31、异常检测模块,用于将所述日志数据和指标数据输入至异常检测模型中分别进行处理,然后进行异构数据融合得到融合数据,根据融合数据得到异常检测结果;
32、其中,所述异常检测模型通过服务器正常运行时产生的日志数据和指标数据作为样本数据,使用二值交叉熵损失作为损失函数进行训练得到。
33、本专利技术还提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上述任一种所述基于多源数据融合的服务器异常检测方法的步骤。
34、本专利技术还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如上述任一种所述基于多源数据融合的服务器异常检测方法的步骤。
35、本专利技术还提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如上述任一种所述基于多源数据融合的服务器异常检测方法的步骤。
36、本专利技术提供的基于多源数据融合的服务器异常检测方法和装置,通过层次化的异常检测模型结构,分别对日志数据和指标数据进行处理,然后再通过异构数据融合得到日志语义和指标数据的融合数据来学习系统状态的全局表示,最终根据融合数据得到异常检测结果,从而实现精确的系统异常检测。
本文档来自技高网...【技术保护点】
1.一种基于多源数据融合的服务器异常检测方法,其特征在于,包括:
2.根据权利要求1所述的服务器异常检测方法,其特征在于,所述异常检测模型包括:日志编码器和指标编码器;
3.根据权利要求2所述的服务器异常检测方法,其特征在于,在将所述日志数据输入至日志编码器进行向量化处理,得到日志模态特征向量之前,所述方法还包括:
4.根据权利要求3所述的服务器异常检测方法,其特征在于,所述日志编码器包括:词嵌入模型和双向编码模型;
5.根据权利要求2所述的服务器异常检测方法,其特征在于,所述指标编码器包括指标方面内编码器和指标方面间编码器;
6.根据权利要求1所述的服务器异常检测方法,其特征在于,所述异常检测模型还包括:门控线性单元;
7.根据权利要求2所述的服务器异常检测方法,其特征在于,所述异常检测模型还包括:全连接层和归一化层;
8.一种基于多源数据融合的服务器异常检测装置,其特征在于,包括:
9.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在
10.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述基于多源数据融合的服务器异常检测方法的步骤。
...【技术特征摘要】
1.一种基于多源数据融合的服务器异常检测方法,其特征在于,包括:
2.根据权利要求1所述的服务器异常检测方法,其特征在于,所述异常检测模型包括:日志编码器和指标编码器;
3.根据权利要求2所述的服务器异常检测方法,其特征在于,在将所述日志数据输入至日志编码器进行向量化处理,得到日志模态特征向量之前,所述方法还包括:
4.根据权利要求3所述的服务器异常检测方法,其特征在于,所述日志编码器包括:词嵌入模型和双向编码模型;
5.根据权利要求2所述的服务器异常检测方法,其特征在于,所述指标编码器包括指标方面内编码器和指标方面间编码器;
6.根据权利要求1所述的服务器异常检测方法,其特...
【专利技术属性】
技术研发人员:杨海天,王妍,刘玟,祝贺,赵楠,
申请(专利权)人:中国科学院信息工程研究所,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。