一种基于多线程的数据核验方法、装置、设备及介质制造方法及图纸

技术编号:41354350 阅读:16 留言:0更新日期:2024-05-20 10:06
本说明书实施例公开了一种基于多线程的数据核验方法、装置、设备及介质,方法包括:数据中台接收用户端上传的新增数据核验规则,并将新增数据核验规则同步到实时核验通道与历史核验通道;在实时核验通道中获取当前上传的采集数据所对应的数据核验规则,以基于并行线程与对应的数据核验规则对采集数据进行核验,获得采集数据的核验结果;在历史核验通道中基于新增数据核验规则匹配对应的历史数据,确定历史数据所对应的历史数据核验信息;根据服务器CPU核心数确定可支撑线程任务数量,以基于历史核验信息与可支撑线程任务数量对历史数据进行时间划分,获得多个核验任务;通过多个线程并发处理多个核验任务,以更新历史数据的核验结果。

【技术实现步骤摘要】

本说明书涉及数据核验,尤其涉及一种基于多线程的数据核验方法、装置、设备及介质


技术介绍

1、数据核验(data verification)是指对数据的准确性、完整性和一致性进行检查和验证的过程。通过数据核验,可以确保数据符合预期的质量标准,减少错误和不一致性对业务和决策的影响。当前随着数据中台的不断发展数据来源方也不断增多,然而跨不同来源采集的数据不可避免的会存在一些质量问题。例如:人为错误、不正确的数据、过时的数据或组织中缺乏数据素养技能。这些数据问题不及时纠正就会给数据使用者带来一些严重的风险和损害,因此对于数据中台中的数据进行及时核验是保证数据中台正常执行功能的一项必要环节。

2、现有技术中采用对业务数据进行哈希值计算,并对计算得到哈希值进行一致性比较以实现对接收到的数据的完整性和安全性校验的方式,或者其他一些常规的数据核验可以在数据采集的过程中实时处理,基本能够很好的满足用户的常规数据处理需求。但是在业务方提出新的数据核验规则时,历史数据量比较大的情况下,仍然存在数据核验速度较慢的技术问题,且对于大体量历史数据进行核验时也容易与实时核本文档来自技高网...

【技术保护点】

1.一种基于多线程的数据核验方法,其特征在于,所述方法包括:

2.根据权利要求1所述的一种基于多线程的数据核验方法,其特征在于,在所述实时核验通道中获取当前上传的采集数据所对应的数据核验规则,以基于并行线程与所述对应的数据核验规则对所述采集数据进行核验,获得所述采集数据的核验结果,具体包括:

3.根据权利要求1所述的一种基于多线程的数据核验方法,其特征在于,在所述历史核验通道中基于所述新增数据核验规则匹配对应的历史数据,确定所述历史数据所对应的历史数据核验信息,具体包括:

4.根据权利要求1所述的一种基于多线程的数据核验方法,其特征在于,基于所述历史核...

【技术特征摘要】

1.一种基于多线程的数据核验方法,其特征在于,所述方法包括:

2.根据权利要求1所述的一种基于多线程的数据核验方法,其特征在于,在所述实时核验通道中获取当前上传的采集数据所对应的数据核验规则,以基于并行线程与所述对应的数据核验规则对所述采集数据进行核验,获得所述采集数据的核验结果,具体包括:

3.根据权利要求1所述的一种基于多线程的数据核验方法,其特征在于,在所述历史核验通道中基于所述新增数据核验规则匹配对应的历史数据,确定所述历史数据所对应的历史数据核验信息,具体包括:

4.根据权利要求1所述的一种基于多线程的数据核验方法,其特征在于,基于所述历史核验信息与所述可支撑线程任务数量对所述历史数据进行时间划分,获得多个核验任务,具体包括:

5.根据权利要...

【专利技术属性】
技术研发人员:宗晨晨
申请(专利权)人:浪潮通用软件有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1