System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及数据库,特别是涉及一种数据拆分方法、装置、计算机设备、存储介质和计算机程序产品。
技术介绍
1、在数据库的日常管理中,将数据库中的数据导出的过程中,通常需要根据导出文件的限制要求,在数据库中对待导出数据进行拆分处理。
2、传统的数据拆分方法中,通常是通过预设的窗口函数,以固定的拆分阈值对数据库中的有序数据集进行拆分,得到拆分后的数据。进而,基于拆分后的数据,生成报送文件。
3、然而,传统的数据拆分方法中,由于业务数据的分布通常没有规律,且采用固定的拆分阈值进行数据拆分,灵活性较差,容易造成批次拆分过多,数据处理效率较低。
技术实现思路
1、基于此,有必要针对上述技术问题,提供一种数据拆分方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
2、第一方面,本申请提供了一种数据拆分方法,包括:
3、获取各业务记录;
4、针对每一所述业务记录,基于所述业务记录中涉及的数据模型、所述数据模型对应的业务数据以及所述业务数据占用的物理存储空间三者间的映射关系,确定所述业务数据中每条数据记录的物理存储大小;
5、基于预设的数据拆分算法、所述业务记录、每条数据记录的物理存储大小以及待生成文件大小,确定数据拆分范围;
6、基于所述数据拆分范围对所述业务数据进行数据拆分,得到数据拆分结果。
7、在其中一个实施例中,所述针对每一所述业务记录,基于所述业务记录中涉及的数据模型、所述数据模型对应
8、针对每一所述业务记录,确定所述业务记录涉及的数据模型;
9、基于所述数据模型与业务数据的映射关系,在数据库中确定所述数据模型对应的目标业务数据;
10、基于所述目标业务数据对应的总物理存储大小以及所述目标业务数据的数据条目,确定每条数据记录的物理存储大小。
11、在其中一个实施例中,所述基于预设的数据拆分算法、所述业务记录、每条数据记录的物理存储大小以及待生成文件大小,确定数据拆分范围,包括:
12、基于所述业务记录中涉及的数据模型,确定每一所述业务记录中包含的数据记录;
13、基于每条所述数据记录的物理存储大小,确定每条所述业务记录的物理存储大小;
14、根据待生成文件大小以及所述业务记录的物理存储大小,确定数据拆分范围。
15、在其中一个实施例中,所述基于所述数据拆分范围对所述业务数据进行数据拆分,得到数据拆分结果之后,所述方法还包括:
16、若数据拆分结果的物理存储大小小于预设文件存储阈值,将所述数据拆分结果,确定为目标数据拆分结果;
17、对多个所述目标数据拆分结果进行合并,得到合并后的数据拆分结果。
18、在其中一个实施例中,所述基于预设的数据拆分算法、所述业务记录、每条数据记录的物理存储大小以及待生成文件大小,确定数据拆分范围之前,所述方法还包括:
19、按照预设的时间周期,获取所述数据库中的增量业务数据;
20、基于所述增量业务数据,更新各所述数据模型与业务数据间的对应关系;
21、根据各所述数据模型、更新后的所述数据模型与业务数据间的对应关系、所述更新后的业务数据占用的物理存储空间,确定所述业务数据中每条数据记录的物理存储大小。
22、在其中一个实施例中,所述方法还包括:
23、基于数据拆分结果,按照预设的文件格式规则以及预设导出批次,生成并导出报送文件。
24、第二方面,本申请还提供了一种数据拆分装置,所述装置包括:
25、获取模块,用于获取各业务记录;
26、第一确定模块,用于针对每一所述业务记录,基于所述业务记录中涉及的数据模型、所述数据模型对应的业务数据以及所述业务数据占用的物理存储空间三者间的映射关系,确定所述业务数据中每条数据记录的物理存储大小;
27、第二确定模块,用于基于预设的数据拆分算法、所述业务记录、每条数据记录的物理存储大小以及待生成文件大小,确定数据拆分范围;
28、拆分模块,用于基于所述数据拆分范围对所述业务数据进行数据拆分,得到数据拆分结果。
29、第三方面,本申请还提供了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
30、获取各业务记录;
31、针对每一所述业务记录,基于所述业务记录中涉及的数据模型、所述数据模型对应的业务数据以及所述业务数据占用的物理存储空间三者间的映射关系,确定所述业务数据中每条数据记录的物理存储大小;
32、基于预设的数据拆分算法、所述业务记录、每条数据记录的物理存储大小以及待生成文件大小,确定数据拆分范围;
33、基于所述数据拆分范围对所述业务数据进行数据拆分,得到数据拆分结果。
34、第四方面,本申请还提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
35、获取各业务记录;
36、针对每一所述业务记录,基于所述业务记录中涉及的数据模型、所述数据模型对应的业务数据以及所述业务数据占用的物理存储空间三者间的映射关系,确定所述业务数据中每条数据记录的物理存储大小;
37、基于预设的数据拆分算法、所述业务记录、每条数据记录的物理存储大小以及待生成文件大小,确定数据拆分范围;
38、基于所述数据拆分范围对所述业务数据进行数据拆分,得到数据拆分结果。
39、第五方面,本申请还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
40、获取各业务记录;
41、针对每一所述业务记录,基于所述业务记录中涉及的数据模型、所述数据模型对应的业务数据以及所述业务数据占用的物理存储空间三者间的映射关系,确定所述业务数据中每条数据记录的物理存储大小;
42、基于预设的数据拆分算法、所述业务记录、每条数据记录的物理存储大小以及待生成文件大小,确定数据拆分范围;
43、基于所述数据拆分范围对所述业务数据进行数据拆分,得到数据拆分结果。
44、上述数据拆分方法、装置、计算机设备、存储介质和计算机程序产品,获取各业务记录;针对每一所述业务记录,基于所述业务记录中涉及的数据模型、所述数据模型对应的业务数据以及所述业务数据占用的物理存储空间三者间的映射关系,确定所述业务数据中每条数据记录的物理存储大小;基于预设的数据拆分算法、所述业务记录、每条数据记录的物理存储大小以及待生成文件大小,确定数据拆分范围;基于所述数据拆分范围对所述业务数据进行数据拆分,得到数据拆分结果。采用本方法,基于业务记录中涉及的数据模型、所本文档来自技高网...
【技术保护点】
1.一种数据拆分方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述针对每一所述业务记录,基于所述业务记录中涉及的数据模型、所述数据模型对应的业务数据以及所述业务数据占用的物理存储空间三者间的映射关系,确定所述业务数据中每条数据记录的物理存储大小,包括:
3.根据权利要求1所述的方法,其特征在于,所述基于预设的数据拆分算法、所述业务记录、每条数据记录的物理存储大小以及待生成文件大小,确定数据拆分范围,包括:
4.根据权利要求1所述的方法,其特征在于,所述基于所述数据拆分范围对所述业务数据进行数据拆分,得到数据拆分结果之后,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,所述基于预设的数据拆分算法、所述业务记录、每条数据记录的物理存储大小以及待生成文件大小,确定数据拆分范围之前,所述方法还包括:
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
7.一种数据拆分装置,其特征在于,所述装置包括:
8.一种计算机设备,包括存储器和处理器,所述存储器存储有
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
10.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
...【技术特征摘要】
1.一种数据拆分方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述针对每一所述业务记录,基于所述业务记录中涉及的数据模型、所述数据模型对应的业务数据以及所述业务数据占用的物理存储空间三者间的映射关系,确定所述业务数据中每条数据记录的物理存储大小,包括:
3.根据权利要求1所述的方法,其特征在于,所述基于预设的数据拆分算法、所述业务记录、每条数据记录的物理存储大小以及待生成文件大小,确定数据拆分范围,包括:
4.根据权利要求1所述的方法,其特征在于,所述基于所述数据拆分范围对所述业务数据进行数据拆分,得到数据拆分结果之后,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,所述基于预设的数据拆分算法...
【专利技术属性】
技术研发人员:熊凯,王东昊,张杜璠,张安琪,王军杰,
申请(专利权)人:中国人寿保险股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。