一种大数据任务监控方法、系统、装置及存储介质制造方法及图纸

技术编号:40194880 阅读:27 留言:0更新日期:2024-01-26 23:57
本发明专利技术公开了一种大数据任务监控方法、系统、装置及存储介质,包括采集任务数据,对任务数据预处理后输入第一预设模型,得到任务数据的第一特征向量,根据第一特征向量和第二预设模型计算异常分数,根据异常分数确定异常阈值,根据异常分数和异常阈值确定异常数据,根据预设规则监控异常数据,在预设规则满足时执行相应的操作,根据任务执行的参数对第二预设模型进行更新,根据预设算法、第三预设模型以及第四预设模型确定目标异常数据及对应的上下文信息,将目标异常数据及对应的上下文信息输入预设的知识图谱和推理引擎,得到目标异常数据的故障诊断报告和对应的解决方案。本发明专利技术实施例实现自动化监控,提高监控效率,可广泛应用于大数据领域。

【技术实现步骤摘要】

本专利技术涉及大数据领域,尤其涉及一种大数据任务监控方法、系统、装置及存储介质


技术介绍

1、大数据时代下数据分析脚本的数量越来越多,任务的链路因此变得复杂冗长,一些历史的数据分析脚本没有制定开发标准,也没有接入调度系统进行统一调度,只是简单的依赖crontab进行定时调度,各个任务之间的依赖仅靠简单的串行来实现,对于任务的运行情况难以进行统一的监控与管理分析。

2、现有的对任务监控的方案通常由运维人员或数据开发人员根据实际的需求不断迭代任务监控的对象,人工调整任务监控的参数,修改任务监控的代码,对任务监控服务进行更新,以保持对任务执行的数据采集、同步、跟踪和分析,从而保证任务监控服务在任务监控对象迭代后的正常运行;但这种方法依赖人工,任务监控效率低,对技术人员的负担大。


技术实现思路

1、有鉴于此,本专利技术实施例的目的是提供一种大数据任务监控方法、系统、装置及存储介质,可实现自动化监控,提高监控效率。

2、第一方面,本专利技术实施例提供了一种大数据任务监控方法,包括以下步骤:...

【技术保护点】

1.一种大数据任务监控方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的方法,其特征在于,所述根据所述第一特征向量与训练好的第二预设模型确定异常分数,具体包括:

3.根据权利要求1所述的方法,其特征在于,所述根据所述异常分数确定异常阈值,具体包括:

4.根据权利要求1所述的方法,其特征在于,所述根据所述异常数据确定异常数据的特征向量,将所述异常数据输入训练好的第四预设模型得到异常数据的上下文信息特征向量,根据所述异常数据的特征向量与所述异常数据的上下文信息特征向量确定目标异常数据,具体包括:

5.根据权利要求4所述的方法,其特征在于...

【技术特征摘要】

1.一种大数据任务监控方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的方法,其特征在于,所述根据所述第一特征向量与训练好的第二预设模型确定异常分数,具体包括:

3.根据权利要求1所述的方法,其特征在于,所述根据所述异常分数确定异常阈值,具体包括:

4.根据权利要求1所述的方法,其特征在于,所述根据所述异常数据确定异常数据的特征向量,将所述异常数据输入训练好的第四预设模型得到异常数据的上下文信息特征向量,根据所述异常数据的特征向量与所述异常数据的上下文信息特征向量确定目标异常数据,具体包括:

5.根据权利要求4所述的...

【专利技术属性】
技术研发人员:成文邓琛丁家文邹京辰赵子颖黄毓铭
申请(专利权)人:天翼数字生活科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1