一种数据处理方法、装置、设备及存储介质制造方法及图纸

本发明专利技术公开了一种数据处理方法、装置、设备及存储介质。该方法包括：根据预设采集条件，从补偿事件表中获取待查询交易明细事件集合；根据所述待查询交易明细事件集合中的每个待查询交易明细事件对应的客户账号查询关联表，其中，所述关联表包括：客户账号和客户号的对应关系；若查询到待查询交易明细事件对应的目标客户号，则将所述目标客户号和所述待查询交易明细事件对应的交易明细存储至数据库中，通过本发明专利技术的技术方案，能够解决基于Flink流式处理高并发数据流处理中的数据乱序问题，能够在不影响大部分数据延时的情况下提升数据准确性。确性。确性。

【技术实现步骤摘要】
一种数据处理方法、装置、设备及存储介质


[0001]本专利技术实施例涉及计算机
，尤其涉及一种数据处理方法、装置、设备及存储介质。

技术介绍

[0002]流式计算是一种被设计用于处理无限数据集的数据引擎。现在主流的数据乱序处理方法：窗口、Watermark水位以及允许迟到三种方式。
[0003]窗口方式：Window窗口是一种切割无限数据为有限块进行处理的手段，可开窗口来解决数据乱序的问题。
[0004]Watermark水位方式：Flink中的时间语义WaterMark，以事件时间减去所允许的最大乱序时间作为水印，原理相当于多给了数据一定的时间，然后关闭窗口，触发计算。
[0005]允许迟到方式：原理是水印的基础上多给数据一定的可以迟到的时间，当水印到达窗口大小时触发计算，但是不关闭窗口，到达所允许的迟到时间后真正关闭窗口。
[0006]常规的数据乱序处理方法存在如下缺点：
[0007]窗口计算，窗口的大小或者时间增加了整体数据的延迟。
[0008]WaterMark在窗口的基础上，进一步增加了数据的延迟。
[0009]允许迟到，同样也在窗口计算的基础上增加了数据的延迟。

技术实现思路

[0010]本专利技术实施例提供一种数据处理方法、装置、设备及存储介质，以解决基于Flink流式处理高并发数据流处理中的数据乱序问题，能够在不影响大部分数据延时的情况下提升数据准确性。
[0011]根据本专利技术的一方面，提供了一种数据处理方法，包括：
[0012]根据预设采集条件，从补偿事件表中获取待查询交易明细事件集合；
[0013]根据所述待查询交易明细事件集合中的每个待查询交易明细事件对应的客户账号查询关联表，其中，所述关联表包括：客户账号和客户号的对应关系；
[0014]若查询到待查询交易明细事件对应的目标客户号，则将所述目标客户号和所述待查询交易明细事件对应的交易明细存储至数据库中。
[0015]根据本专利技术的另一方面，提供了一种数据处理装置，该数据处理装置包括：
[0016]获取模块，用于根据预设采集条件，从补偿事件表中获取待查询交易明细事件集合；
[0017]查询模块，用于根据所述待查询交易明细事件集合中的每个待查询交易明细事件对应的客户账号查询关联表，其中，所述关联表包括：客户账号和客户号的对应关系；
[0018]存储模块，用于若查询到待查询交易明细事件对应的目标客户号，则将所述目标客户号和所述待查询交易明细事件对应的交易明细存储至数据库中。
[0019]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0020]至少一个处理器；以及
[0021]与所述至少一个处理器通信连接的存储器；其中，
[0022]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的数据处理方法。
[0023]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的数据处理方法。
[0024]本专利技术实施例通过根据预设采集条件，从补偿事件表中获取待查询交易明细事件集合；根据所述待查询交易明细事件集合中的每个待查询交易明细事件对应的客户账号查询关联表，其中，所述关联表包括：客户账号和客户号的对应关系；若查询到待查询交易明细事件对应的目标客户号，则将所述目标客户号和所述待查询交易明细事件对应的交易明细存储至数据库中，解决了基于Flink流式处理高并发数据流处理中的数据乱序问题，能够在不影响大部分数据延时的情况下提升数据准确性。
[0025]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0026]为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本专利技术的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
[0027]图1是本专利技术实施例中的一种数据处理方法的流程图；
[0028]图2是本专利技术实施例中的一种数据处理装置的结构示意图；
[0029]图3是本专利技术实施例中的一种电子设备的结构示意图。
具体实施方式
[0030]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0031]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0032]实施例一
[0033]图1为本专利技术实施例提供的一种数据处理方法的流程图，本实施例可适用于数据处理的情况，该方法可以由本专利技术实施例中的数据处理装置来执行，该装置可采用软件和/或硬件的方式实现，如图1所示，该方法具体包括如下步骤：
[0034]S110，根据预设采集条件，从补偿事件表中获取待查询交易明细事件集合。
[0035]其中，所述预设采集条件可以为：交易明细事件的重试次数小于或者等于次数阈值和交易明细事件的事件状态为未处理状态，或者，所述预设采集条件可以为交易明细事件的事件状态为未处理状态。
[0036]其中，所述补偿事件表包括：未查询到客户号的交易明细事件、未查询到客户号的交易明细事件对应的重试次数以及未查询到客户号的交易明细事件的状态信息等。
[0037]其中，所述补偿事件表的生成方式可以为：通过Source组件从第一topic中获取第一事件集合；根据每个事件对应的表名字段对第一事件集合进行过滤，得到交易明细事件集合；根据交易明细事件集合中的每个交易明细事件对应的客户账户查询关联表；根据未查询到客户号的交易明细事件生成补偿事件表。所述补偿事件表的更新方式包括：若未查询到待查询交易明细事件对应的目标客户号，则将所述待查询交易明细事件存储至补偿事件表中，并更新待查询交易明细事件的重试次数。所述本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法，其特征在于，包括：根据预设采集条件，从补偿事件表中获取待查询交易明细事件集合；根据所述待查询交易明细事件集合中的每个待查询交易明细事件对应的客户账号查询关联表，其中，所述关联表包括：客户账号和客户号的对应关系；若查询到待查询交易明细事件对应的目标客户号，则将所述目标客户号和所述待查询交易明细事件对应的交易明细存储至数据库中。2.根据权利要求1所述的方法，其特征在于，所述预设采集条件包括：交易明细事件的重试次数小于或者等于次数阈值，以及，交易明细事件的事件状态为未处理状态。3.根据权利要求1所述的方法，其特征在于，根据预设采集条件，从补偿事件表中获取待查询交易明细事件集合，包括：从补偿事件表中获取重试次数小于或者等于次数阈值，且事件状态为未处理状态的预设数量的待查询交易明细事件；根据所述预设数量的待查询交易明细事件生成待查询交易明细事件集合。4.根据权利要求1所述的方法，其特征在于，在根据预设采集条件，从补偿事件表中获取待查询交易明细事件集合之前，还包括：通过Source组件从第一topic中获取第一事件集合；根据每个事件对应的表名字段对第一事件集合进行过滤，得到交易明细事件集合；根据交易明细事件集合中的每个交易明细事件对应的客户账户查询关联表；根据未查询到客户号的交易明细事件生成补偿事件表。5.根据权利要求1所述的方法，其特征在于，还包括：通过Source组件从第二topic中获取第二事件集合；根据每个事件对应的表名字段对第二事件集合进行过滤，得到客户信息事件集合；根据客户信息事件集合中每个客户信息事件对应的事件类型和客户信息对关联表进行更新。6...

【专利技术属性】
技术研发人员：唐俊军，宋龙飞，孙海英，陈凯，何雷，唐家鑫，
申请(专利权)人：上海浦东发展银行股份有限公司，
类型：发明
国别省市：