数据同步与查询方法、装置、设备及介质制造方法及图纸

技术编号:44433136 阅读:9 留言:0更新日期:2025-02-28 18:44
本发明专利技术涉及大数据技术领域和金融科技领域,公开了一种数据同步与查询方法,通过接收业务操作请求并执行数据更新,生成更新数据,将更新数据封装成消息,通过消息队列传递至搜索服务模块,解析消息并生成实时数据;实时数据通过搜索引擎存储至实时索引,离线数据从大数据仓库获取,并存储至带有日期标识的离线索引,判断是否启用离线索引作为主索引,并在索引切换过程中同时写入实时和离线数据;完成索引切换后,执行基于主索引的查询操作,并返回结果。本发明专利技术通过结合离线数据和实时数据的统一处理,避免了数据分离带来的不一致性,确保了数据处理的高效性和时效性,实现了在业务场景中对全量数据的同步更新与查询操作。

【技术实现步骤摘要】

本专利技术涉及大数据和金融科技领域,尤其涉及一种数据同步与查询方法、装置、设备及存储介质。


技术介绍

1、在金融领域的大数据处理背景下,企业常常需要同时处理离线批量数据和实时数据,以满足不同的业务需求。比如,在客户交易数据分析、风险控制和反欺诈监控等业务场景中,金融机构需要处理大量历史数据(如交易记录、账户信息等),同时,也需要快速响应实时交易、市场行情和风险事件。为此,通常会采用两种数据处理方式——离线数据处理与实时数据处理。

2、在金融领域的实践中,离线数据与实时数据处理通常是分离的,这导致了一系列问题:

3、离线数据和实时数据采用不同的系统或架构处理,容易导致数据不一致。例如,在实时数据更新后,离线数据未及时更新,可能影响后续数据分析的准确性。

4、离线数据处理周期较长,通常需要按批次进行数据加载和计算,难以支持实时业务场景中的快速响应需求。对于需要立即反馈的金融业务,如风险控制,离线处理方式显得不足。

5、由于离线和实时数据处理系统各自独立,导致系统架构较为复杂,维护和管理成本较高。金融机构需要投入大本文档来自技高网...

【技术保护点】

1.一种数据同步与查询方法,其特征在于,包括以下步骤:

2.如权利要求1所述的数据同步与查询方法,其特征在于,所述搜索服务模块接收并解析所述消息,从所述消息中提取更新数据,并根据所述更新数据生成实时数据,包括:

3.如权利要求1所述的数据同步与查询方法,其特征在于,所述搜索服务模块接收并解析所述消息,从所述消息中提取更新数据,并根据所述更新数据生成实时数据之后,还包括:

4.如权利要求1中所述的数据同步与查询方法,其特征在于,从大数据仓库中获取离线数据,将所述离线数据存储至具有日期标识的离线数据索引中,包括:

5.如权利要求1所述的数据同步...

【技术特征摘要】

1.一种数据同步与查询方法,其特征在于,包括以下步骤:

2.如权利要求1所述的数据同步与查询方法,其特征在于,所述搜索服务模块接收并解析所述消息,从所述消息中提取更新数据,并根据所述更新数据生成实时数据,包括:

3.如权利要求1所述的数据同步与查询方法,其特征在于,所述搜索服务模块接收并解析所述消息,从所述消息中提取更新数据,并根据所述更新数据生成实时数据之后,还包括:

4.如权利要求1中所述的数据同步与查询方法,其特征在于,从大数据仓库中获取离线数据,将所述离线数据存储至具有日期标识的离线数据索引中,包括:

5.如权利要求1所述的数据同步与查询方法,其特征在于,在索引切换过程中,将所述实时数据写入所述当前实时索引和所述离线数据索引,包括:

6.如权利要求1所...

【专利技术属性】
技术研发人员:魏勇杨丹丹
申请(专利权)人:平安银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1