System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及数据处理,尤其涉及一种数据校验方法、装置及电子设备。
技术介绍
1、通常当两个数据库之间的数据进行同步或者迁移的时候,有时会存在不同数据源之间的数据差异的问题,为了达到数据一致的目的,需要对数据表进行校验处理。但是,相关技术中的数据校验方法存在处理效率低,资源使用率低的问题。
技术实现思路
1、为了解决上述问题,本申请提供了一种数据校验方法、装置及电子设备。
2、根据本申请的第一方面,提供了一种数据校验方法,包括:
3、确定n个第一待校验数据表,以及每个所述第一待校验数据表对应的第二待校验数据表;其中,n为正整数;
4、基于所述n个第一待校验数据表之间的取样差异,将所述n个第一待校验数据表划分为m个数据表组;其中,m为大于1的正整数;
5、将所述m个数据表组所对应的校验任务依次分配至m个线程组;
6、基于所述m个线程组,根据所述校验任务,对所述n个第一待校验数据表及其各自对应的第二待校验数据表中的数据进行数据校验。
7、根据本申请的第二方面,提供了一种数据校验装置,包括:
8、确定模块,用于确定n个第一待校验数据表,以及每个所述第一待校验数据表对应的第二待校验数据表;其中,n为正整数;
9、分组模块,用于基于所述n个第一待校验数据表之间的取样差异,将所述n个第一待校验数据表划分为m个数据表组;其中,m为大于1的正整数;
10、分配模块,用于将所述m个数据表组所对应的
11、校验模块,用于基于所述m个线程组,根据所述校验任务,对所述n个第一待校验数据表及其各自对应的第二待校验数据表中的数据进行数据校验。
12、根据本申请的第三方面,提供了一种电子设备,包括:处理器;用于存储处理器的可执行指令的存储器;其中,处理器被配置为执行所述指令,以实现上述第一方面所述的方法。
13、根据本申请的第四方面,提供了一种计算机可读存储介质,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行上述第一方面所述的方法。
14、根据本申请的技术方案,通过将n个第一待校验数据表划分为m个数据表组,并基于n个第一待校验数据表之间的取样差异,将m个数据表组所对应的校验任务依次分配至m个线程组,基于m个线程组,根据校验任务,对n个第一待校验数据表及其各自对应的第二待校验数据表中的数据进行数据校验。本方案通过基于各个第一待校验数据表之间的取样差异对第一待校验数据表分组,以降低每个数据表组所对应的校验任务的取样差异,从而使不同的并发线程组所对应的校验任务分配更均匀,进而可以从整体上提高数据校验的效率。
15、本申请附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实践了解到。
本文档来自技高网...【技术保护点】
1.一种数据校验方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述基于所述N个第一待校验数据表之间的取样差异,将所述N个第一待校验数据表划分为M个数据表组,包括:
3.根据权利要求2所述的方法,其特征在于,所述确定每个所述第一待校验数据表的取样耗时,包括:
4.根据所述权利要求2所述的方法,其特征在于,所述根据所述取样耗时,将所述N个第一待校验数据表划分为M个数据表组,包括:
5.根据权利要求4所述的方法,其特征在于,所述根据所述平均耗时和所述取样耗时,将所述N个第一待校验数据表划分为M个数据表组,包括:
6.根据权利要求4所述的方法,其特征在于,所述根据所述平均耗时和所述取样耗时,继续将所述剩余的第一待校验数据表划分至所述M个数据表组,包括:
7.根据权利要求1所述的方法,其特征在于,所述基于所述M个线程组,根据所述校验任务,对所述N个第一待校验数据表及其各自对应的第二待校验数据表中的数据进行数据校验,包括:
8.根据权利要求7所述的方法,其特征在于,所述根据所述校验任务,
9.根据权利要求8所述的方法,其特征在于,所述将所述第一结果集中的每列数据映射为一个定长的第一数字字串,包括:
10.根据权利要求1所述的方法,其特征在于,还包括:
11.根据权利要求1-10中任一项所述的方法,其特征在于,所述校验任务的类型为以下至少一种:指定行的数据校验类型、指定时间段的数据校验类型、增量数据校验类型、全量数据校验类型。
12.一种数据校验装置,其特征在于,包括:
13.一种电子设备,其特征在于,包括:
14.一种计算机可读存储介质,其特征在于,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行如权利要求1-11中任一项所述的方法。
...【技术特征摘要】
1.一种数据校验方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述基于所述n个第一待校验数据表之间的取样差异,将所述n个第一待校验数据表划分为m个数据表组,包括:
3.根据权利要求2所述的方法,其特征在于,所述确定每个所述第一待校验数据表的取样耗时,包括:
4.根据所述权利要求2所述的方法,其特征在于,所述根据所述取样耗时,将所述n个第一待校验数据表划分为m个数据表组,包括:
5.根据权利要求4所述的方法,其特征在于,所述根据所述平均耗时和所述取样耗时,将所述n个第一待校验数据表划分为m个数据表组,包括:
6.根据权利要求4所述的方法,其特征在于,所述根据所述平均耗时和所述取样耗时,继续将所述剩余的第一待校验数据表划分至所述m个数据表组,包括:
7.根据权利要求1所述的方法,其特征在于,所述基于所述m个线程组,根据所述校验任务,对所述n个第一待校验数据表及其各...
【专利技术属性】
技术研发人员:钟声振,林帅均,王一博,安红新,陈坚,关矛,张杰,余东辉,
申请(专利权)人:中移互联网有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。