【技术实现步骤摘要】
检查数据链路中准确性的方法和装置
[0001]本申请涉及数据处理
,具体涉及一种检查数据链路中准确性的方法和装置。
技术介绍
[0002]在金融行业营销场景以及其他一些场景中,需要解决数据链路中准确性的问题。目前有两种方法常用于验证数据链路中的准确性。
[0003]一种方法是后置校验,是在整个数据链路完全加工完成以后进行,该方法是目前比较通用的数据准确性校验方法。该方法存在如下缺陷:资源浪费,直接验证结果是否与目标是否一致,在数据量较大的情况下,一旦有问题,重新计算时会耗费大量资源,造成不必要的资源浪费,影响其他数据处理任务。
[0004]另一种方法是基于少量数据验证,即通过少量测试集数据验证整个数据链路加工的准确性。该方法存在如下缺陷:存在验证偏差,基于少量数据验证,无法模拟真实环境的复杂数据场景,可能导致数据加工结果的准确性存在偏差,进而为企业带来潜在的损失及声誉影响。
技术实现思路
[0005]本申请提供一种检查数据链路中准确性的方法和装置,以有助于提高资源利用率,避免验证结果偏差 ...
【技术保护点】
【技术特征摘要】
1.一种检查数据链路中准确性的方法,其特征在于,包括:将数据链路按照业务流程拆分为多个数据加工节点,多个所述数据加工节点按照顺序进行数据流转;在每个所述数据加工节点后设置相关联的反推检查点,所述反推检查点的校验逻辑是相关联的所述数据加工节点的加工逻辑的逆运算;执行所述反推检查点的校验逻辑,验证计算结果是否符合预期。2.根据权利要求1所述的方法,其特征在于,所述数据加工节点包括第一节点,所述反推检查点包括设置在所述第一节点后的第一检查点,所述的执行所述反推检查点的校验逻辑,验证计算结果是否符合预期的步骤包括:执行所述第一检查点的校验逻辑,计算得到第一校验数据;获取进入所述第一节点的第一输入数据;将所述第一校验数据与所述第一输入数据进行比对,判断是否一致。3.根据权利要求1所述的方法,其特征在于,所述反推检查点的校验逻辑包括数量逆向汇总和明细逆向汇总。4.根据权利要求1所述的方法,其特征在于,还包括:若符合预期,则执行后续的所述数据加工节点;若不符合预期,则中断后续的所述数据加工节点的执行,进行告警。5.一种检查数据链路中准确性的装置,其特征在于,包括:拆分模块,被配置成将数据链路按照业务流程拆分为多个数据加工节点,多个所述数据加工节点按照顺序进行数据流转;设置模块,被配置成在每个所述数据加工节点后设置相关联的反推检查点,所述反推检查点的校...
【专利技术属性】
技术研发人员:党有康,闫长君,叶君骄,
申请(专利权)人:中信百信银行股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。