一种支持断点和重跑的通用数据装载方法及系统技术方案

技术编号:37372711 阅读:25 留言:0更新日期:2023-04-27 07:17
本发明专利技术涉及一种支持断点和重跑的通用数据装载方法及系统,建立对应目标表的状态表标记目标表的数据装载状态并使用匹配目标表的临时表具体执行数据的装载工作,通过配置定长数据文件格式、变长分隔符数据文件格式使用jdbc方式多线程装数适应各种关系型数据库装数的方法;通过装数状态表和数据临时表实现适合各自应用场景的装数方式;通过配置文件实现默认值、固定值、数据库系统值赋值的灵活的装数方式。数方式。数方式。

【技术实现步骤摘要】
一种支持断点和重跑的通用数据装载方法及系统


[0001]本专利技术涉及数据库运行维护及数据处理
,尤其涉及一种支持断点和重跑的通用数据装载方法及系统。

技术介绍

[0002]关系型数据库,是指采用了关系模型来组织数据的数据库,其以行和列的形式存储数据,以便于用户理解。其中,关系型数据库所包含的成系列的行和列被称为表,多个表结合组成了数据库。用户通过查询来检索数据库中的数据,即通过用于限定数据库中某些区域的执行代码对数据库存储的数据内容进行访问。关系模型可以简单理解为二维表格模型,而一个关系型数据库就是由二维表及其之间的关系组成的一个数据组织。
[0003]现有主流各种关系型数据库产品,如Oracle SQL server Mysql DB2等,大都支持对数据格式文件进行装载,使文件能够直接导入预先定义的关系型表中。但是,现有的关系型数据库产品实现文件装载大都需要使用对应的特殊客户端或功能模块,并利用其内部接口对数据文件进行操作以实现比较高效的装载,导致不同种类数据库之间进行文件装载所需要做出的配置各不相同。r/>[0004]对本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种支持断点和重跑的通用数据装载方法,其特征在于,包括:S1、建立对应目标表的状态表,所述状态表包括目标表的数据装载请求和数据装载状态;S2、通过状态表筛选存在数据装载请求的全部目标表组成请求集合;S3、进一步通过状态表判断请求集合中各目标表的数据装载状态是否为已装载,当判断请求集合中目标表的数据装载状态为已装载时,结束数据装载任务并删除目标表对应的数据装载请求;S4、当判断请求集合中目标表的数据装载状态不为已装载时,进一步判断是否存在匹配该目标表的临时表,当判断存在匹配该目标表的临时表时,使用临时表对目标表执行数据装载;S5、当判断不存在匹配该目标表的临时表时,创建匹配该目标表的临时表,所述临时表具有与目标表一致的表结构和数据文件字段;S6、将数据插入临时表,并验证数据插入状态是否正常,当验证数据插入状态不正常时,重新尝试数据插入并验证数据插入状态;S7、当验证数据插入状态正常时,使用临时表对目标表执行数据装载;S8、更改完成数据装载的目标表对应的数据装载状态,并删除目标表对应的数据装载请求;S9、重复执行步骤S2至S8,直至状态表中不存在数据装载请求。2.如权利要求1所述的方法,其特征在于,所述方法还包括:通过状态表判断请求集合中各目标表的数据装载状态是否为重跑;当判断目标表的数据装载状态为重跑时,不判断是否存在数据装载请求,直接对目标表执行步骤S6至S8。3.如权利要求1所述的方法,其特征在于,所述当判断存在匹配该目标表的临时表时,使用临时表对目标表执行数据装载包括:通过状态表判断请求集合中各目标表的数据装载状态是否为续跑;当判断目标表的数据装载状态不为续跑时,直接对目标表执行步...

【专利技术属性】
技术研发人员:姜楠康溪源祝正广
申请(专利权)人:建信金融科技有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1