【技术实现步骤摘要】
基于关系型数据库的数据抽取方法及装置
本申请涉及数据抽取
,尤其涉及一种基于关系型数据库的数据抽取方法及装置。
技术介绍
关系型数据库为采用关系模型来组织数据的数据库,以行和列的形式存储数据,一系列行和列的组合被称为表,一批表的组合就是关系型数据库。常见的关系型数据库有Oracle、MySQL和SQLServer等。目前,各行业的软件系统普遍使用关系型数据库。为了及时处理客户信息、业务订单、物流信息和统计报表等各种交易数据,需要经常从数据库中抽取数据。数据抽取的过程包括:按一定条件和周期从数据库中查询数据,并导出为文件以供外部系统使用。这种抽取数据的需求和规则是相对固定的和周期性的,如果每次都人工操作,费时费力。而且在大型系统中,抽取的数据往往需要在不同的子系统,或者外部系统之间共享使用,因此需要对数据的格式做统一规范,便于各个独立的系统方便准确的识别和处理。
技术实现思路
针对现有技术中的问题,本申请提出了一种基于关系型数据库的数据抽取方法及装置,能够提高关系型数据库中数据抽取的效率和灵活 ...
【技术保护点】
1.一种基于关系型数据库的数据抽取方法,其特征在于,包括:/n根据预设的抽取任务和抽取规则,从本地关系型数据库中获取对应的目标数据;/n基于预设的通用数据类型标准,确定所述目标数据的数据类型对应的通用数据类型格式;/n将所述目标数据和对应的通用数据类型格式发送至目标系统,以使该目标系统根据所述通用数据类型格式确定所述目标数据对应在该目标系统中的目标数据类型格式,并基于该目标数据类型格式完成对所述目标数据的应用。/n
【技术特征摘要】
1.一种基于关系型数据库的数据抽取方法,其特征在于,包括:
根据预设的抽取任务和抽取规则,从本地关系型数据库中获取对应的目标数据;
基于预设的通用数据类型标准,确定所述目标数据的数据类型对应的通用数据类型格式;
将所述目标数据和对应的通用数据类型格式发送至目标系统,以使该目标系统根据所述通用数据类型格式确定所述目标数据对应在该目标系统中的目标数据类型格式,并基于该目标数据类型格式完成对所述目标数据的应用。
2.根据权利要求1所述的基于关系型数据库的数据抽取方法,其特征在于,所述通用数据类型标准用于存储数据的数据类型与通用数据类型格式之间的对应关系。
3.根据权利要求1所述的基于关系型数据库的数据抽取方法,其特征在于,所述根据预设的抽取任务和抽取规则,从本地关系型数据库中获取对应的目标数据,还包括:
根据所述抽取任务,获取所述目标系统的信息和目标数据的本地存储目录。
4.根据权利要求1所述的基于关系型数据库的数据抽取方法,其特征在于,所述根据预设的抽取任务和抽取规则,从本地关系型数据库中获取对应的目标数据,包括:
根据所述预设的抽取任务获取对应的抽取规则;
应用所述抽取规则中的目标数据表信息、过滤条件和抽取周期获取所述目标数据。
5.根据权利要求1所述的基于关系型数据库的数据抽取方法,其特征在于,在所述根据预设的抽取任务和抽取规则,从本地关系型数据库中获取目标数据和其对应的数据类型之后,还包括:
根据所述目标数据和预设的通用数据类型标准,生成目标数据存储文件和通用数据类型存储文件;
将所述目标数据存储文件和通用数据类型存储文件发送至所述目标系统,以使所述目标系统根据所述通用数据类型存储文件确定所述目标数据存储文件中的目标数据对应在该目标系统中的目标数据类型格式,并基于该目标数据类型格式完成对所述目标数据的应用。
6.根据权利要求5所述的基于关系型数据库的数据抽取方法,其特征在于,在所述根据所述目标数据和预设的通用数据类型标准,生成目标数据存储文件和通用数据类型存储文件之后,还包括:
根据所述目标数据存储文件,生成目标数据校验文件;
将所述目标数据存储文件、目标数据校验文件和通用数据类型存储文件发送至所述目标系统,以使所述目标系统根据所述目标数据校验文件判断获取的目标数据是否正确。
7.根据权利要求5所述的基于关系型数据库的数据抽取方法,其特征在于,
各所述目标数据分别对应有字段名称,其中,该字段名称和所述目标数据为一对多或多对多的对应关系;
在所述目标数据存储文件中各行数据分别包含有各所述字段名称对应的一组目标数据;
所述目标数据存储文件对应的数据表中的每一行均用于存储各个所述字段名称各自对应目标数据,且每一行均用于存储相互之间存在唯一对应关系的所述目标数据。
8.根据权利要求5所述的基于关系型数据库的数据抽取方法,其特征在于,所述目标数据校验文件包括:所述目标数据存储文件的文件名、文件大小、数据行数、抽取开始时间和抽取结束时间。
9.根据权利要求5所述的基于关系型数据库的数据抽取方法,其特征在于,所述通用数据类型存储文件包括:
所述目标数据对应的数据表表名、表的主键字段、字段数、字段名称和各字段对应的通用数据类型信息。
10.一种基于关系型数据库的数据抽取装置,其特征在于,包括:
抽取模块,用于根据预设的抽取任务和抽取规则,从本地关系型数据库中获取对应的目...
【专利技术属性】
技术研发人员:刘斌,李杨,
申请(专利权)人:中国建设银行股份有限公司,建信金融科技有限责任公司,
类型:发明
国别省市:北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。