数据抽取方法、装置、计算机设备及存储介质制造方法及图纸

技术编号:20221706 阅读:28 留言:0更新日期:2019-01-28 20:14
本发明专利技术公开了数据抽取方法、装置、计算机设备及存储介质,通过获取待执行的任务,根据所述映射关系将第一数据库中属于所述种类的数据抽取到第二数据库。通过按照获取到的执行的任务中的种类将待抽取的数据从一个数据库中抽取到另一个数据库中,由于待抽取的数据与种类映射关系是预先配置好的,当监听到种类发生改变时,即当监听到已有种类发生改变或新增种类时,可以将该种类更新为改变后的种类,从而可以不需要暂停数据抽取的操作,和不需要等待开发人员花费时间修改种类,同时也不需要人工重新启动数据抽取的功能后便能进行数据抽取,进而提高了数据抽取的效率。

【技术实现步骤摘要】
数据抽取方法、装置、计算机设备及存储介质
本专利技术涉及金融保险领域,尤其涉及数据抽取方法、装置、计算机设备及存储介质。
技术介绍
在当今信息时代下,很多金融保险公司越来越重视数据信息的存储。当金融保险公司对数据进行存储时,需要根据数据的种类将数据从一个业务系统的数据库中获取到,然后将所述数据抽取到另外一个存储系统的数据库,但是,当遇到种类变更时,导致无法抽取到数据,此时,需要先暂停数据抽取的操作,然后待管理员花费时间修改种类完成后,人工重新启动数据抽取的功能,再进行数据抽取。由于这个过程需要暂停数据抽取的操作,从而降低了数据抽取的效率。
技术实现思路
基于此,有必要针对上述技术问题,提供可以提高数据抽取的效率方法、装置、计算机设备及存储介质。数据抽取方法,包括:获取待执行的任务,其中,所述待执行的任务包括第一数据库中待抽取的数据对应的种类,所述第一数据库中待抽取的数据与所述种类之间存在预先配置的映射关系;监听所述映射关系中的种类,且当监听到所述映射关系中的种类发生改变时,更新发生改变的种类,其中,更新发生改变的种类后所述第一数据库中待抽取数据得到变更;根据所述映射关系将第一数据库中属于本文档来自技高网...

【技术保护点】
1.一种数据抽取方法,其特征在于,所述数据抽取方法包括:获取待执行的任务,其中,所述待执行的任务包括第一数据库中待抽取的数据对应的种类,所述第一数据库中待抽取的数据与所述种类之间存在预先配置的映射关系;监听所述映射关系中的种类,且当监听到所述映射关系中的种类发生改变时,更新发生改变的种类,其中,更新发生改变的种类后所述第一数据库中待抽取数据得到变更;根据所述映射关系将第一数据库中属于所述种类的待抽取数据抽取到第二数据库,其中,所述种类包括所述映射关系中不发生改变的种类和更新后的发生改变的种类。

【技术特征摘要】
1.一种数据抽取方法,其特征在于,所述数据抽取方法包括:获取待执行的任务,其中,所述待执行的任务包括第一数据库中待抽取的数据对应的种类,所述第一数据库中待抽取的数据与所述种类之间存在预先配置的映射关系;监听所述映射关系中的种类,且当监听到所述映射关系中的种类发生改变时,更新发生改变的种类,其中,更新发生改变的种类后所述第一数据库中待抽取数据得到变更;根据所述映射关系将第一数据库中属于所述种类的待抽取数据抽取到第二数据库,其中,所述种类包括所述映射关系中不发生改变的种类和更新后的发生改变的种类。2.如权利要求1所述的数据抽取方法,其特征在于,所述监听所述映射关系中的种类,且当监听到所述映射关系中的种类发生改变时,更新发生改变的种类,包括:开启所述待抽取的数据对应的种类的监听器;通过所述监听器实时监听所述种类;若所述种类发生改变,则获取所述监听器生成的种类改变标识信息;根据所述种类改变标识信息在所述映射关系中更新被标识的种类。3.如权利要求1所述的数据抽取方法,其特征在于,在将第一数据库中属于所述种类的数据抽取到第二数据库时采用增量抽取方式,所述增量抽取方式中的抽取类型包括数据增加类型、数据删除类型和数据更新类型,所述根据所述映射关系将第一数据库中属于所述种类的待抽取数据抽取到第二数据库包括:若所述增量抽取方式中的抽取类型为所述数据增加类型,则根据所述映射关系将所述第一数据库中的待抽取的数据与所述第二数据库中的目标数据相比的增量信息拼接到所述目标数据,得到拼接后的目标数据并保存到所述第二数据库中;若所述增量抽取方式中的抽取类型为所述数据删除类型,则根据所述映射关系将所述第二数据库中的目标数据与所述第一数据库中的待抽取的数据相比的增量信息删除,得到删除后的目标数据并保存到所述第二数据库中;若所述增量抽取方式中的抽取类型为所述数据更新类型,则根据所述映射关系将所述第一数据库中的待抽取的数据替换所述第二数据库中的目标数据,得到替换后的目标数据并保存到所述第二数据库中。4.如权利要求1所述的数据抽取方法,其特征在于,所述映射关系中的种类为进行笛卡尔乘积后的种类,在所述获取待执行的任务之后,所述数据抽取方法还包括:判断所述待执行的任务中的种类是否为所述进行笛卡尔乘积后的种类;若所述待执行的任务中的种类是所述进行笛卡尔乘积后的种类,则执行所述根据所述映射关系将第一数据库中属于所述种类的数据抽取到第二数据库的步骤;若所述待执行的任务中的种类不是所述进行笛卡尔乘积后的种类,则将所述待执行的任务中的种类进行转换,得到符合笛卡尔乘积规格的种类,并将所述符合笛卡尔乘积规格的种类进行笛卡尔乘积,得到乘积后的种类,然后执行所述根据所述映射关系将第一数据库中属于所述种类的数据抽取到第二数据库的步骤。5.如权利要...

【专利技术属性】
技术研发人员:丁志勇
申请(专利权)人:中国平安人寿保险股份有限公司
类型:发明
国别省市:广东,44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1