一种数据库的增量处理方法和系统技术方案

技术编号:17812940 阅读:66 留言:0更新日期:2018-04-28 05:37
本发明专利技术实施例提供了一种数据库的增量处理方法和系统,涉及数据库技术领域。该方法应用于数据库的增量处理系统中,包括:在数据库的增量处理系统启动后,确定待接入的数据源;读取所述数据源对应的增量时间;依据所述增量时间,从所述数据源中读取增量数据;对所述增量数据进行存储。本发明专利技术实施例简化了数据对接流程,以及加快了数据读取速度。

【技术实现步骤摘要】
一种数据库的增量处理方法和系统
本专利技术涉及数据库
,特别是涉及一种数据库的增量处理方法、一种数据库的增量处理系统、一种电子设备以及一种可读存储介质。
技术介绍
随着数据处理量增长,目前已出现一些数据交互过程中的增量标识方法,可以对数据库的增量数据进行标识。具体而言,数据库的增量数据通常是数据交互中的待处理数据。在硬件环境和数据管理软件一定的情况下,增量数据的有效识别成为影响交换处理速度的最大瓶颈。在大批量数据交换的过程,为了有效地标识增量数据,目前主要是通过在数据库的数据表中添加了标识字段,在数据增加时设置新增加的数据对应的标识字段的状态,或者,在数据更新时改变更新的数据对应的标识字段的状态,从而达到标识增量数据的目的。显然,现有技术需要对数据库或者业务系统做出相应的调整,才能标记增量数据,导致数据对接交换流程复杂,降低了数据读取速度。
技术实现思路
鉴于上述问题,本专利技术实施例提供一种数据库的增量处理方法,以加快数据读取速度。相应的,本专利技术实施例还提供了一种数据库的增量处理系统、一种设备以及一种可读存储介质,用以保证上述方法的实现及应用。为了解决上述问题,本专利技术实施本文档来自技高网...
一种数据库的增量处理方法和系统

【技术保护点】
一种数据库的增量处理方法,其特征在于,应用于数据库的增量处理系统中,所述方法包括:在数据库的增量处理系统启动后,确定待接入的数据源;读取所述数据源对应的增量时间;依据所述增量时间,从所述数据源中读取增量数据;对所述增量数据进行存储。

【技术特征摘要】
1.一种数据库的增量处理方法,其特征在于,应用于数据库的增量处理系统中,所述方法包括:在数据库的增量处理系统启动后,确定待接入的数据源;读取所述数据源对应的增量时间;依据所述增量时间,从所述数据源中读取增量数据;对所述增量数据进行存储。2.根据权利要求1所述的方法,其特征在于,所述读取所述数据源对应的增量时间之前,还包括:通过所述增量处理系统的统一数据访问接口,接入所述数据源,所述数据源包括:数据库的输入数据源和/或输出数据源;其中,所述读取所述数据源对应的增量时间,包括:通过所述统一数据访问接口,读取所述数据源对应的增量时间,所述增量时间包括以下至少一种:存储增量时间和缓存增量时间。3.根据权利要求2所述的方法,其特征在于,依据所述增量时间,从所述数据源中读取增量数据,包括:通过所述增量处理系统的应用层,判断所述存储增量时间的值是否为预设的空值;若所述存储增量的值为空值,则确定所述数据源中的数据为增量数据,通过所述统一数据访问接口,从所述数据源的数据起始位置开始读取增量数据;若所述存储增量的值不为空值,则确定所述存储增量时间对应的数据读取位置,通过所述统一数据访问接口,从所述数据读取位置开始读取增量数据。4.根据权利要求1至3任一所述的方法,其特征在于,还包括:记录所述增量数据对应的存储时间;对所述存储时间进行存储。5.根据权利要求4所述的方法,其特征在于,所述记录所述增量数据对应的存储时间之前,还包括:判断是否读取完所述数据源中的增量数据;若读取完所述数据源中的增量数据,则执行所述记录所述增量数据对应的存储时间的步骤。6.一种数据库的增量处理系统,其特征在于,包括:数据源确定模块,用于在数据库的增量处理系统启动后,确定待接入的数据源;增量时间读取模块,用于读取所述数据源对应的增量时间;增量数据读取模块,用于依据所述增量时间,从所述数据源中读取增量数据;增量数据存储模块,...

【专利技术属性】
技术研发人员:戴万乾喻波王志海韩振国安鹏
申请(专利权)人:北京明朝万达科技股份有限公司
类型:发明
国别省市:北京,11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1