【技术实现步骤摘要】
一种数据同步方法、装置、设备及存储介质
[0001]本专利技术涉及数据库
,尤其涉及一种数据同步方法、装置、设备及存储介质。
技术介绍
[0002]ETL(Extract
‑
Transform
‑
Load,数据抽取、转换和加载)是实现商务智能的核心,按照统一的规则集成并提高数据的价值,负责完成数据从数据源向目标数据仓库转化的过程,是实施数据仓库的重要步骤。
[0003]然而,传统的ETL工具只能进行单表数据的数据同步,在两个系统在段时间之内拆开的情况下,如果每个业务都提供数据接口,工作量极大,无法在段时间内完成上线,无法满足不同业务数据的数据同步需求,也无法保障一条业务线数据的完整性。如何短期之内完成系统拆分,并且保障业务线数据完整性是一个极大的挑战。
技术实现思路
[0004]本专利技术提供了一种数据同步方法、装置、设备及存储介质,以满足不同业务数据的数据同步需求,提高系统的拆分速度,保障业务线数据的完整性。
[0005]根据本专利技术的一方面,提供 ...
【技术保护点】
【技术特征摘要】
1.一种数据同步方法,其特征在于,应用于数据提供方,包括:确定待同步数据任务和所述待同步数据任务对应的数据同步配置信息;根据所述数据同步配置信息,从所述数据提供方本地中确定待同步数据;对所述待同步数据进行处理,得到待同步数据文件;基于预设的数据发送方式,将所述待同步数据文件发送给数据接收方,以供所述数据接收方根据所述待同步数据文件进行数据同步。2.根据权利要求1所述的方法,其特征在于,所述数据同步配置信息包括数据同步类型、待同步数据关联的至少一个源表、数据提取顺序和所述源表对应的数据提取方式;相应的,所述根据所述数据同步配置信息,从所述数据提供方本地中确定待同步数据,包括:确定所述数据同步类型对应待同步数据关联的至少一个源表、数据提取顺序和所述源表对应的数据提取方式;按照数据提取顺序,依次采用至少一个源表对应的数据提取方式,从至少一个源表中提取待同步数据。3.根据权利要求1所述的方法,其特征在于,还包括:获取所述数据接收方对所述待同步数据文件的响应结果;根据所述响应结果,对所述待同步数据任务的任务状态进行更新。4.根据权利要求1所述的方法,其特征在于,还包括:获取所述数据接收方对所述待同步数据的同步结果;根据所述同步结果,对所述待同步数据任务的任务状态进行更新。5.根据权利要求4所述的方法,其特征在于,还包括:若所述同步结果为同步成功,则基于预设的后处理配置信息中的后处理方式,对所述待同步数据进行处理。6.一种数据同步方法,其特征在于,应用于数据接收方,包括:接收数据提供方发送的待同步数据文件;对所述待同步数据文件进行解析,得到待同步数据;将所述待同步数据同步至本地数据库。7.根据权利要求6所述的方法,其特征在于,所述对所述待同步数据文件进行解析,得到待同步数据,包括:对所述待同步数据文件进行解析,得到待同步数据关联的至少一个目标表;若判断所述至少一个目标表存在,则确定所述待同步数据关联的至少一个目标表的主键和唯一键;根据所述至少一个目标表的主键和唯一键,以及所述待同步数据,从本地查询所述待同步数据,并根据查询结果,将所述待同步数据同步至本地数据库。8.根据权利要求6所述的方...
【专利技术属性】
技术研发人员:周保卫,
申请(专利权)人:太平养老保险股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。