System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 数据校验方法、装置、计算机设备及存储介质制造方法及图纸_技高网

数据校验方法、装置、计算机设备及存储介质制造方法及图纸

技术编号:40951926 阅读:5 留言:0更新日期:2024-04-18 20:27
本申请属于人工智能领域与金融科技领域,涉及一种数据校验方法,包括:从测试数据表获取符合条件的行数据,并获取各行数据的第一行编号;从生产数据表确定第一行编号对应的指定行数据;对各行数据与各指定行数据进行列拼接处理,得到对应的第一拼接数据与第二拼接数据;基于目标哈希算法对各第一拼接数据与各第二拼接数据进行转换,得到对应的第一散列值与第二散列值;对第一散列值与第二散列值进行数据校验处理生成相应的数据校验结果。本申请还提供一种数据校验装置、计算机设备及存储介质。此外,本申请的数据校验结果可存储于区块链中。本申请可应用于金融领域的表数据校验场景,提高了数据表校验的处理效率,保证了数据校验结果的准确度。

【技术实现步骤摘要】

本申请涉及人工智能开发与金融科技领域,尤其涉及数据校验方法、装置、计算机设备及存储介质


技术介绍

1、数据准确性和一致性是金融科技企业(例如保险企业、银行)数据团队开发上线的前提和关键指标,通过验证本地测试数据表和生产数据表之间的测试数据与生产数据之间存在的差异,保证关键指标一致是上线前的重要环节,也是业务关注的重点内容。

2、当前金融科技企业的业务反馈的多数问题,都和金融业务平台的看板数据差异有关,不同金融业务平台的数据对不上、指标统计有出入等反馈,常见于金融科技企业中的许多业务数据场景。随着金融科技企业的业务扩展,数据呈现出维度繁多、指标海量等特点。业务的数据开发需求,也大多集中在增加维度、增加指标两个方面。因此在验证数据、查找指标数据差异问题上,尤其需要投入更高的精细度。现有的金融科技企业的金融业务平台所开发的数据结果校验功能,仅支持开发者自行选定几项维度和指标进行聚合汇总,对汇总后的指标数值进行对比,并不能实现数据表之间的逐行核对,也无法一次性支持超过十项指标的验证,导致数据校验的效率低下,且无法保证数据校验的准确度。


技术实现思路

1、本申请实施例的目的在于提出一种数据校验方法、装置、计算机设备及存储介质,以解决现有的金融科技企业的金融业务平台所开发的数据结果校验功能仅支持开发者自行选定几项维度和指标进行聚合汇总,对汇总后的指标数值进行对比,并不能实现数据表之间的逐行核对,也无法一次性支持超过十项指标的验证,导致数据校验的效率低下,且无法保证数据校验的准确度的技术问题。

2、为了解决上述技术问题,本申请实施例提供一种数据校验方法,采用了如下所述的技术方案:

3、从预设的测试数据表中获取符合数据验证条件的所有行数据,并获取各所述行数据分别对应的第一行编号;

4、从与所述测试数据表对应的生产数据表中确定出与所述第一行编号对应的指定行数据;

5、对各所述行数据分别进行列拼接处理,得到与各所述行数据分别对应的第一拼接数据;

6、对各所述指定行数据分别进行列拼接处理,得到与各所述指定行数据分别对应的第二拼接数据;

7、基于预设的目标哈希算法对各所述第一拼接数据进行转换处理,得到与各所述第一拼接数据分别对应的第一散列值;

8、基于所述目标哈希算法对各所述第二拼接数据进行转换处理,得到与各所述第二拼接数据分别对应的第二散列值;

9、基于各所述行数据的第一行编号,对所有所述第一散列值与所有所述第二散列值进行对应的数据校验处理,生成所述测试数据表与所述生产数据表之间的数据校验结果。

10、进一步的,所述对各所述行数据分别进行列拼接处理,得到与各所述行数据分别对应的第一拼接数据的步骤,具体包括:

11、获取指定行数据对应的第二行编号;其中,所述指定行数据为所有所述行数据中的任意一个数据;

12、从所述测试数据表中获取与所述第二行编号对应的所有主键值信息;

13、按照预设的拼接顺序对所有所述主键值信息进行拼接处理,得到拼接后的主键值信息;

14、将所述拼接后的主键值信息作为与所述指定行数据对应的指定拼接数据。

15、进一步的,在所述基于预设的目标哈希算法对各所述第一拼接数据进行转换处理,得到与各所述第一拼接数据分别对应的第一散列值的步骤之前,还包括:

16、获取多种哈希算法;

17、获取预先输入的数据长度与数据输出效率;

18、从所有所述哈希算法中筛选出符合所述数据长度,以及同时符合所述数据输出效率的数据处理要求的第一哈希算法;

19、判断所述第一哈希算法的数量是否大于1;

20、若是,从所有所述第一哈希算法中筛选出使用频率值最高的第二哈希算法;

21、将所述第二哈希算法作为所述目标哈希算法。

22、进一步的,所述基于各所述行数据的第一行编号,对所有所述第一散列值与所有所述第二散列值进行对应的数据校验处理,生成所述测试数据表与所述生产数据表之间的数据校验结果的步骤,具体包括:

23、获取第一指定散列值;其中,所述第一指定散列值为所有所述第一散列值中的任意一个;

24、获取与所述第一指定散列值对应的第三行编号;

25、从所述第二散列值中确定出与所述第三行编号对应的第二指定散列值;

26、对所述第一指定散列值与所述第二指定散列值进行数据匹配,得到对应的指定数据匹配结果;

27、在完成对于所有所述第一散列值与所有所述第二散列值之间进行的对应的数据匹配处理后,得到对应的多个数据匹配结果;

28、基于所有所述数据匹配结果,生成所述测试数据表与所述生产数据表之间的数据校验结果。

29、进一步的,所述基于所有所述数据匹配结果,生成所述测试数据表与所述生产数据表之间的数据校验结果的步骤,具体包括:

30、对所有所述数据匹配结果进行分析,判断所有所述数据匹配结果的内容是否均为匹配通过;

31、若是,生成所述测试数据表与所述生产数据表之间的第一数据校验结果;其中,所述第一数据校验结果的内容为校验通过;

32、若否,生成所述测试数据表与所述生产数据表之间的第二数据校验结果;其中,所述第二数据校验结果的内容为校验未通过。

33、进一步的,在所述对所有所述数据匹配结果进行分析,判断所有所述数据匹配结果的内容是否均为匹配通过的步骤之后,还包括:

34、若所有所述数据匹配结果的内容未均为匹配通过,则从所有所述数据匹配结果中筛选出内容为匹配未通过的目标数据匹配结果;

35、获取与所述目标数据匹配结果对应的第一目标散列值与第二目标散列值;

36、获取与所述第一目标散列值对应的目标行编号;

37、基于所述第一目标散列值、所述第二目标散列值以及所述目标行编号生成对应的差异数据;

38、存储所述差异数据。

39、进一步的,在所述基于所述第一目标散列值、所述第二目标散列值以及所述目标行编号生成对应的差异数据的步骤之后,还包括:

40、获取测试人员的通讯信息;

41、基于所述差异数据生成对应的差异处理信息;

42、基于所述通讯信息,将所述差异处理信息发送给所述测试人员。

43、为了解决上述技术问题,本申请实施例还提供一种数据校验装置,采用了如下所述的技术方案:

44、第一获取模块,用于从预设的测试数据表中获取符合数据验证条件的所有行数据,并获取各所述行数据分别对应的第一行编号;

45、第一确定模块,用于从与所述测试数据表对应的生产数据表中确定出与所述第一行编号对应的指定行数据;

46、第一处理模块,用于对各所述行数据分别进行列拼接处理,得到与各所述行数据分别对应的第一拼接数据;

47、第二处理模块,用于对各所本文档来自技高网...

【技术保护点】

1.一种数据校验方法,其特征在于,包括下述步骤:

2.根据权利要求1所述的数据校验方法,其特征在于,所述对各所述行数据分别进行列拼接处理,得到与各所述行数据分别对应的第一拼接数据的步骤,具体包括:

3.根据权利要求1所述的数据校验方法,其特征在于,在所述基于预设的目标哈希算法对各所述第一拼接数据进行转换处理,得到与各所述第一拼接数据分别对应的第一散列值的步骤之前,还包括:

4.根据权利要求1所述的数据校验方法,其特征在于,所述基于各所述行数据的第一行编号,对所有所述第一散列值与所有所述第二散列值进行对应的数据校验处理,生成所述测试数据表与所述生产数据表之间的数据校验结果的步骤,具体包括:

5.根据权利要求4所述的数据校验方法,其特征在于,所述基于所有所述数据匹配结果,生成所述测试数据表与所述生产数据表之间的数据校验结果的步骤,具体包括:

6.根据权利要求1所述的数据校验方法,其特征在于,在所述对所有所述数据匹配结果进行分析,判断所有所述数据匹配结果的内容是否均为匹配通过的步骤之后,还包括:

7.根据权利要求6所述的数据校验方法,其特征在于,在所述基于所述第一目标散列值、所述第二目标散列值以及所述目标行编号生成对应的差异数据的步骤之后,还包括:

8.一种数据校验装置,其特征在于,包括:

9.一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机可读指令,所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的数据校验方法的步骤。

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机可读指令,所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的数据校验方法的步骤。

...

【技术特征摘要】

1.一种数据校验方法,其特征在于,包括下述步骤:

2.根据权利要求1所述的数据校验方法,其特征在于,所述对各所述行数据分别进行列拼接处理,得到与各所述行数据分别对应的第一拼接数据的步骤,具体包括:

3.根据权利要求1所述的数据校验方法,其特征在于,在所述基于预设的目标哈希算法对各所述第一拼接数据进行转换处理,得到与各所述第一拼接数据分别对应的第一散列值的步骤之前,还包括:

4.根据权利要求1所述的数据校验方法,其特征在于,所述基于各所述行数据的第一行编号,对所有所述第一散列值与所有所述第二散列值进行对应的数据校验处理,生成所述测试数据表与所述生产数据表之间的数据校验结果的步骤,具体包括:

5.根据权利要求4所述的数据校验方法,其特征在于,所述基于所有所述数据匹配结果,生成所述测试数据表与所述生产数据表之间的数据校验结...

【专利技术属性】
技术研发人员:汤文迅
申请(专利权)人:中国平安财产保险股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1