数据质量检测方法、装置、电子设备及计算机存储介质制造方法及图纸

技术编号:40520331 阅读:37 留言:0更新日期:2024-03-01 13:38
本申请涉及数据处理技术领域,公开了一种数据质量检测方法、装置、电子设备及计算机存储介质,包括:基于目标数据处理库从目标数据源读取待检测数据,并获取待检测数据对应的质量检测指标;根据质量检测指标对待检测数据进行质量评估,得到目标评估结果;若目标评估结果为待检测数据是异常数据,则获取异常数据的异常等级,按照异常等级对异常数据进行告警。本申请实现了无侵入式实时数据质量检测,减少了异常数据排查时长,提高了异常数据检测效率和异常数据识别准确率。

【技术实现步骤摘要】

本申请涉及数据处理,具体涉及一种数据质量检测方法、装置、电子设备及计算机存储介质


技术介绍

1、当前,在数据埋点接入、动态数据接入场景中,数据的质量问题会直接影响到线上底层基础数据以及业务指标数据的准确性。在数据处理时,通常只有通过经过业务代码中的处理逻辑时才能感知到数据错误、缺失等数据质量问题。同时对应的数据质量问题通常会以报错日志等方式暴露,该数据质量检测方式效率低下。并且,在新的数据未被数据质量检测规则覆盖,或对异常数据进行处理时,往往需要重新对数据规则进行提取,重新打包发布,亦会导致数据质量检测效率低下的问题。


技术实现思路

1、本申请实施例提供一种数据质量检测方法、装置、电子设备及计算机存储介质,可以解决数据质量检测效率低下的技术问题。

2、本申请实施例提供一种数据质量检测方法,包括:

3、基于目标数据处理库从目标数据源读取待检测数据,并获取所述待检测数据对应的质量检测指标;

4、根据所述质量检测指标对所述待检测数据进行质量评估,得到目标评估结果;

本文档来自技高网...

【技术保护点】

1.一种数据质量检测方法,其特征在于,包括:

2.根据权利要求1所述的数据质量检测方法,其特征在于,所述基于目标数据处理库从目标数据源读取待检测数据,包括:

3.根据权利要求1所述的数据质量检测方法,其特征在于,所述获取所述待检测数据对应的质量检测指标,包括:

4.根据权利要求1所述的数据质量检测方法,其特征在于,所述根据所述质量检测指标对所述待检测数据进行质量评估,得到目标评估结果,包括:

5.根据权利要求4所述的数据质量检测方法,其特征在于,所述质量检测指标包括多个子检测指标,所述根据所述质量检测指标对所述待检测数据进行初始质量评估,得...

【技术特征摘要】

1.一种数据质量检测方法,其特征在于,包括:

2.根据权利要求1所述的数据质量检测方法,其特征在于,所述基于目标数据处理库从目标数据源读取待检测数据,包括:

3.根据权利要求1所述的数据质量检测方法,其特征在于,所述获取所述待检测数据对应的质量检测指标,包括:

4.根据权利要求1所述的数据质量检测方法,其特征在于,所述根据所述质量检测指标对所述待检测数据进行质量评估,得到目标评估结果,包括:

5.根据权利要求4所述的数据质量检测方法,其特征在于,所述质量检测指标包括多个子检测指标,所述根据所述质量检测指标对所述待检测数据进行初始质量评估,得到初始评估值,包括:

6.根据权利要求4所述的数据质...

【专利技术属性】
技术研发人员:请求不公布姓名
申请(专利权)人:深圳TCL新技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1