数据异常检测方法、装置、电子设备及存储介质制造方法及图纸

技术编号:26890533 阅读:34 留言:0更新日期:2020-12-29 16:06
本发明专利技术涉及数据处理技术,揭露了一种数据异常检测方法,包括:获取包含缺失数据的标准训练数据集及包括变分下限函数的异常检测模型框架;利用所述缺失数据对所述变分下限函数进行调整,得到优化变分下限函数;利用所述标准训练数据集对异常检测模型框架进行训练,得到异常检测模型;利用所述异常检测模型对所述待检测数据集进行检测并得到待检测数据的重构概率;若存在重构概率大于等于重构阈值的目标待检测数据,则确定所述目标待检测数据为异常数据。本发明专利技术还提出一种数据异常检测装置、电子设备以及计算机可读存储介质。此外,本发明专利技术还涉及区块链技术,所述标准训练数据集可从区块链的节点中获取。本发明专利技术可以提高KPI异常检测的效率和准确率。

【技术实现步骤摘要】
数据异常检测方法、装置、电子设备及存储介质
本专利技术涉及人工智能技术,尤其涉及一种数据异常检测方法、装置、电子设备及计算机可读存储介质。
技术介绍
KPI(关键性能指标)异常检测是智能运维领域中非常重要的部分。为了确保业务不中断,通常需要检测各种KPI(如应用程序的KPI、操作系统的KPI等)是否存在异常,从而确定系统的软件或硬件是否存在故障,并及时进行故障排除。现有技术中的KPI异常检测方法,由于训练完成的异常检测模型鲁棒性较低,模型稳定性交低,导致检测结果的存在不够准确的问题;同时,现有技术中的检测方法中会生成大量标签,占用计算机资源的同时降低了检测效率。
技术实现思路
本专利技术提供一种数据异常检测方法、装置及计算机可读存储介质,其主要目的在于提高KPI异常检测的效率和准确率。为实现上述目的,本专利技术提供的一种数据异常检测方法,包括:获取标准训练数据集,所述标准训练数据集包含异常检测数据和缺失数据;获取预构建的异常检测模型框架,所述异常检测模型框架包括变分下限函数;>利用所述缺失数据对本文档来自技高网...

【技术保护点】
1.一种数据异常检测方法,其特征在于,所述方法包括:/n获取标准训练数据集,所述标准训练数据集包含异常检测数据和缺失数据;/n获取预构建的异常检测模型框架,所述异常检测模型框架包括变分下限函数;/n利用所述缺失数据对所述变分下限函数进行调整,得到优化变分下限函数;/n利用所述标准训练数据集对包含所述优化变分下限函数的所述异常检测模型框架进行训练,得到异常检测模型;/n获取待检测数据集,利用所述异常检测模型对所述待检测数据集进行检测,得到所述待检测数据集中待检测数据的重构概率;/n若存在重构概率大于等于重构阈值的目标待检测数据,则确定所述目标待检测数据为异常数据。/n

【技术特征摘要】
1.一种数据异常检测方法,其特征在于,所述方法包括:
获取标准训练数据集,所述标准训练数据集包含异常检测数据和缺失数据;
获取预构建的异常检测模型框架,所述异常检测模型框架包括变分下限函数;
利用所述缺失数据对所述变分下限函数进行调整,得到优化变分下限函数;
利用所述标准训练数据集对包含所述优化变分下限函数的所述异常检测模型框架进行训练,得到异常检测模型;
获取待检测数据集,利用所述异常检测模型对所述待检测数据集进行检测,得到所述待检测数据集中待检测数据的重构概率;
若存在重构概率大于等于重构阈值的目标待检测数据,则确定所述目标待检测数据为异常数据。


2.如权利要求1所述的数据异常检测方法,其特征在于,所述获取标准训练数据集,包括:
获取原始训练数据集;
将所述原始训练数据集中预设比例的数据设置为缺失数据;
通过预设的归一化公式对所述包括缺失数据的原始训练数据集进行归一化处理,得到归一化数据集;
将所述归一化数据集输入至预设的滑动窗口,得到所述标准训练数据集。


3.如权利要求1所述的数据异常检测方法,其特征在于,所述利用所述缺失数据对所述变分下限函数进行调整,得到优化变分下限函数,包括:
基于所述缺失数据计算优化数值;
将所述优化数值添加至所述变分下限函数,得到所述优化变分下限函数。


4.如权利要求1至3中任一项所述的数据异常检测方法,其特征在于,所述优化变分下限函数为:



其中,所述W为所述标准训练数据集中的数据个数,xw为所述标准训练数据集中第w个数据,所述aw为第w个数据的缺失系数,当xw为缺失数据时,aw=1,当xw不为缺失数据时,aw=0,β为优化数值,且存在所述z表示标准训练数据集中隐变量z。
其中,表示对x对应的隐变量z的分布计算期望,logpθ(x|z)表示对p(x|z;θ)取对数,pθ(x|z)意味着将隐变量z恢复成x,对应着解码器,pθ(z)表示标准训练数据集下隐变量z的分布,logpθ(z)表示对所述pθ(z)取对数,logqφ(z|x)表示对所述qφ(z|x)取对数,qφ(z|x)意味着在样本x下隐变量z的分布,对应于编码器部分。


5.如权利要求1所述的数据异常检测方法,其特征在于,所述利用所述标准训练数据集对包含所述优化变分下限函数的所述异常检测模型框架进行训练,得到异常检测模型,包括:
步骤A:将所述标准训练数据集输...

【专利技术属性】
技术研发人员:邓悦郑立颖徐亮
申请(专利权)人:平安科技深圳有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1