数据更新方法技术

技术编号:39589612 阅读:22 留言:0更新日期:2023-12-03 19:42
本申请涉及一种数据更新方法

【技术实现步骤摘要】
数据更新方法、装置、计算机设备及存储介质


[0001]本申请涉及数据处理
,特别是涉及一种数据更新方法

装置

计算机设备

存储介质和计算机程序产品


技术介绍

[0002]目前,对于业务数据库而言,将数据采集并更新到数据库是非常重要的一个环节

外部数据的更新过程中需要与第三方进行数据交换,目前常用的方式有直连同步更新

实时增量同步更新和全量同步更新

[0003]然而,直连同步更新存在效率较低的问题,并且容易影响对方正常业务服务,导致安全性较差,存在数据泄露的风险

实时增量同步经常需要编写大量代码来接收变更日志并进行解析,操作步骤复杂,因此,数据量较大的情况下,数据更新效率低下

全量同步更新在数据量较大的情况下也同样存在数据同步效率低的问题


技术实现思路

[0004]基于此,有必要针对上述技术问题,提供一种能够在数据量较大的情况下提高数据更新效率本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种数据更新方法,其特征在于,所述方法包括:获取来自文件服务器的源数据文件,其中,所述源数据文件包括至少一个子数据文件;获取更新基准时刻和当前时刻;根据所述更新基准时刻和所述当前时刻计算更新时间范围;对每个所述子数据文件,在所述源数据文件中提取对应的操作时刻信息;根据所述操作时刻信息和所述更新时间范围生成删除类型的文本文件和插入类型的文本文件;根据所述删除类型的文本文件和所述插入类型的文本文件生成更新文件
。2.
根据权利要求1所述的方法,其特征在于,所述操作时刻信息包括创建时刻和更新时刻;所述根据所述操作时刻信息和所述更新时间范围生成删除类型的文本文件和插入类型的文本文件包括:在所述更新时刻在所述更新时间范围内的情况下,根据所述子数据文件生成对应的删除类型的文本文件和插入类型的文本文件;在所述创建时刻在所述更新时间范围内的情况下,根据所述子数据文件生成对应的插入类型的文本文件
。3.
根据权利要求2所述的方法,其特征在于,所述在所述更新时刻在所述更新时间范围内的情况下,根据所述子数据文件生成对应的删除类型的文本文件包括:根据所述主键字段生成对应的删除类型的文本文件
。4.
根据权利要求1所述的方法,其特征在于,所述源数据文件还包括更新标识;所述获取更新基准时刻和当前时刻包括:获取当前时刻

预设更新周期和本周期基准时刻;根据所述预设更新周期和本周期基准时刻计算下一个周期基准时刻;当所述下一个周期基准时刻等于所述当前时刻时,提取所述更新标识;根据所述更新标识确定所述源数据文件的更新类型;根据所述更新类型确定更新基准时刻
。5.
根据权利要求4所述的方法,其特征在于,所述更新类型包括全量更新和增量更新;所述根据所述更新类型确定更新基准时刻包括:在...

【专利技术属性】
技术研发人员:田芳华陈浩忠李浏骝
申请(专利权)人:建信金融科技有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1