数据处理方法、装置、系统、计算机设备和存储介质制造方法及图纸

技术编号:35515170 阅读:14 留言:0更新日期:2022-11-09 14:31
本申请涉及一种数据处理方法、装置、系统、计算机设备和存储介质。该方法包括:获取待变更数据,将待变更数据写入至第一数据库的变更日志中;将变更日志发送至中间服务器,通过中间服务器对变更日志进行解析,得到第一数据库对应的数据库变更数据;通过第二数据库操作服务拉取数据库变更数据,将数据库变更数据同步至第二数据库中;获取数据查询请求,根据数据查询请求从第二数据库中查询得到目标数据库变更数据。采用本方法能够实现第一数据库与第二数据库的同步,避免开发重复维护第二数据库缓存,减轻开发的工作量。减轻开发的工作量。减轻开发的工作量。

【技术实现步骤摘要】
数据处理方法、装置、系统、计算机设备和存储介质


[0001]本申请涉及计算机
,特别是涉及一种数据处理方法、装置、系统、计算机设备和存储介质。

技术介绍

[0002]为提高系统性能、减小数据库压力,一般的缓存方案是热点数据使用Redis(Remote Dictionary Server,远程字典服务缓存中间件),为了保证Redis内存空间的充足,必须要设置MySQL(关系型数据库管理系统)同步Redis缓存过期的时间,例如商品数据Redis缓存是24小时过期,因为商品数据是高访问量的数据,为了降低MySQL的请求压力,商品数据在有变更时无法同步地去更新Redis,导致出现无法从Redis中获取到最新的数据。

技术实现思路

[0003]基于此,有必要针对上述技术问题,提供一种数据处理方法、装置、计算机设备和存储介质。
[0004]一种数据处理方法,该方法包括:
[0005]获取待变更数据,将待变更数据写入至第一数据库的变更日志中;
[0006]将变更日志发送至中间服务器,通过中间服务器对变更日志进行解析,得到第一数据库对应的数据库变更数据;
[0007]通过第二数据库操作服务拉取数据库变更数据,将数据库变更数据同步至第二数据库中;
[0008]获取数据查询请求,根据数据查询请求从第二数据库中查询得到目标数据库变更数据。
[0009]在其中一个实施例中,获取待变更数据,将待变更数据写入至第一数据库的变更日志中,包括:获取变更日志开启指令,根据变更日志开启指令开启第一数据库中的变更日志,接收应用服务器发送的待变更数据,将待变更数据写入至第一数据库的变更日志中。
[0010]在其中一个实施例中,将变更日志发送至中间服务器,通过中间服务器对变更日志进行解析,得到第一数据库对应的数据库变更数据,包括:将变更日志发送至中间服务器,以使中间服务器对变更日志进行解析,得到第一格式的数据库变更数据,将第一格式的数据库变更数据进行数据格式转换,得到目标格式的数据库变更数据。
[0011]在其中一个实施例中,通过第二数据库操作服务拉取数据库变更数据,将数据库变更数据同步至第二数据库中,包括:获取服务开启指令,根据服务开启指令开启第二数据库操作服务,通过已开启的第二数据库操作服务拉取数据库变更数据,操作第二数据库同步数据库变更数据。
[0012]在其中一个实施例中,在数据库变更数据为数据库增加数据时,将数据库变更数据同步至第二数据库中,包括:将数据库增加数据存储至第二数据库中。
[0013]在其中一个实施例中,在数据库变更数据为数据库删除数据时,将数据库变更数
据同步至第二数据库中,包括:在第二数据库中执行数据删除操作,根据数据删除操作删除第二数据库中的数据库删除数据。
[0014]在其中一个实施例中,在数据库变更数据为数据库修改数据时,将数据库变更数据同步至第二数据库中,包括:在第二数据库中执行数据修改操作,根据数据修改操作修改第二数据库中与数据库修改数据匹配的原始数据。
[0015]在其中一个实施例中,获取数据查询请求,根据数据查询请求从第二数据库中查询得到目标数据库变更数据,包括:获取数据查询请求,数据查询请求携带数据库变更数据标识,根据数据查询请求从第二数据库中缓存的候选数据库变更数据中查询与数据库变更数据标识匹配的目标数据库变更数据。
[0016]一种数据处理系统,该系统包括:
[0017]应用服务器,用于获取待变更数据,将待变更数据发送至第一服务器;
[0018]第一服务器,用于接收待变更数据,将待变更数据写入至第一数据库中的变更日志中,将写入完的变更日志发送至中间服务器;
[0019]中间服务器,用于对变更日志进行解析,得到第一数据库对应的数据库变更数据,并将数据库变更数据推送至消息服务器;
[0020]消息服务器,用于接收数据库变更数据,并通知第二数据库操作服务所在的操作服务器;
[0021]操作服务器,用于接收到消息服务器发送的通知后,从消息服务器中拉取得到数据库变更数据,将数据库变更数据转发至第二服务器;
[0022]第二服务器,用于将数据库变更数据同步至第二数据库中;
[0023]查询设备,用于发送查询请求至第二服务器;
[0024]第二服务器,还用于根据查询请求从第二数据库中查询得到目标数据库变更数据,并返回至查询设备。
[0025]一种数据处理装置,该装置包括:
[0026]获取模块,用于获取待变更数据,将待变更数据写入至第一数据库的变更日志中;
[0027]发送模块,用于将变更日志发送至中间服务器,通过中间服务器对变更日志进行解析,得到第一数据库对应的数据库变更数据;
[0028]拉取模块,用于通过第二数据库操作服务拉取数据库变更数据,将数据库变更数据同步至第二数据库中;
[0029]查询模块,用于获取数据查询请求,根据数据查询请求从第二数据库中查询得到目标数据库变更数据。
[0030]一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
[0031]获取待变更数据,将待变更数据写入至第一数据库的变更日志中;
[0032]将变更日志发送至中间服务器,通过中间服务器对变更日志进行解析,得到第一数据库对应的数据库变更数据;
[0033]通过第二数据库操作服务拉取数据库变更数据,将数据库变更数据同步至第二数据库中;
[0034]获取数据查询请求,根据数据查询请求从第二数据库中查询得到目标数据库变更
数据。
[0035]一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
[0036]获取待变更数据,将待变更数据写入至第一数据库的变更日志中;
[0037]将变更日志发送至中间服务器,通过中间服务器对变更日志进行解析,得到第一数据库对应的数据库变更数据;
[0038]通过第二数据库操作服务拉取数据库变更数据,将数据库变更数据同步至第二数据库中;
[0039]获取数据查询请求,根据数据查询请求从第二数据库中查询得到目标数据库变更数据。
[0040]上述数据处理方法、装置、计算机设备和存储介质,获取待变更数据,将待变更数据写入至第一数据库的变更日志中,将变更日志发送至中间服务器,通过中间服务器对变更日志进行解析,得到第一数据库对应的数据库变更数据,通过第二数据库操作服务拉取数据库变更数据,将数据库变更数据同步至第二数据库中,获取数据查询请求,根据数据查询请求从第二数据库中查询得到目标数据库变更数据。
[0041]其中,通过将变更数据写入至第一数据库的变更日志中,通过中间服务器对变更日志进行解析得到第一数据库的数据库变更数据,再通过第二数据库操作服务器将数据库变更数据同步至第二数据库中,实现第一数据库与第二数据库的数据本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法,所述方法包括:获取待变更数据,将所述待变更数据写入至第一数据库的变更日志中;将所述变更日志发送至中间服务器,通过所述中间服务器对所述变更日志进行解析,得到所述第一数据库对应的数据库变更数据;通过第二数据库操作服务拉取所述数据库变更数据,将所述数据库变更数据同步至第二数据库中;获取数据查询请求,根据所述数据查询请求从所述第二数据库中查询得到目标数据库变更数据。2.根据权利要求1所述的方法,其特征在于,所述获取待变更数据,将所述待变更数据写入至第一数据库的变更日志中,包括:获取变更日志开启指令,根据所述变更日志开启指令开启所述第一数据库中的变更日志;接收应用服务器发送的待变更数据,将所述待变更数据写入至所述第一数据库的所述变更日志中。3.根据权利要求1所述的方法,其特征在于,所述将所述变更日志发送至中间服务器,通过所述中间服务器对所述变更日志进行解析,得到所述第一数据库对应的数据库变更数据,包括:将所述变更日志发送至中间服务器,以使所述中间服务器对所述变更日志进行解析,得到第一格式的数据库变更数据;将所述第一格式的数据库变更数据进行数据格式转换,得到目标格式的数据库变更数据。4.根据权利要求1所述的方法,其特征在于,所述通过第二数据库操作服务拉取所述数据库变更数据,将所述数据库变更数据同步至第二数据库中,包括:获取服务开启指令,根据所述服务开启指令开启第二数据库操作服务;通过已开启的第二数据库操作服务拉取所述数据库变更数据,操作第二数据库同步所述数据库变更数据。5.根据权利要求1所述的方法,其特征在于,在所述数据库变更数据为数据库增加数据时,所述将所述数据库变更数据同步至第二数据库中,包括:将所述数据库增加数据存储至所述第二数据库中;在所述数据库变更数据为数据库删除数据时,所述将所述数据库变更数据同步至第二数据库中,包括:在所述第二数据库中执行数据删除操作,根据所述数据删除操作删除所述第二数据库中的数据库删除数据;在所述数据库变更数据为数据库修改数据时,所述将所述数据库变更数据同步至第二数据库中,包括:在所述第二数据库中执行数据修改操作,根据所述数据修改操作修改所述第二数据库中与所述数据库修改数据匹配的原始数据。6.根...

【专利技术属性】
技术研发人员:冯达成
申请(专利权)人:创优数字科技广东有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1