System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种数据处理方法、装置、设备及存储介质制造方法及图纸_技高网

一种数据处理方法、装置、设备及存储介质制造方法及图纸

技术编号:40155398 阅读:4 留言:0更新日期:2024-01-26 23:31
本公开实施例公开了一种数据处理方法、装置、设备及存储介质,包括:确定待处理数据中的第一类数据和第二类数据,所述第一类数据为与非第一类数据具有关联关系的数据,所述第二类数据为待进行回填处理的数据;将所述第一类数据存储至数据库中;对于所述第二类数据,根据所述第二类数据对应的关键字在所述数据库中查找关联的回填内容,根据回填内容的查找结果输出所述第二类数据。本公开实施例的技术方案,通过将待处理数据进行划分,将第一类数据进行存储,并利用存储的第一类数据对第二类数据进行回填,以及对第二类数据进行缓存和延迟处理,解决了实时数据处理过程中出现延迟数据的问题,实现了对数据的关联回填。

【技术实现步骤摘要】

本公开实施例涉及数据分析,尤其涉及一种数据处理方法、装置、设备及存储介质


技术介绍

1、在大数据时代,多方数据关联技术作为大数据处理的一个重要分支,可以帮助我们从多个不同的数据源中提取并关联出有用的信息,为决策和分析提供支持。数据关联的目的是通过某种关联规则,将不同数据源中具有相同或相似特征的数据进行匹配和关联。

2、大数据实时关联处理过程中,许多公司都会涉及到实时流上的数据进行关联回填,但是实时数据因为网络或物理设备等因素影响,以致不同的流式数据到达计算引擎的时间不一定,即会有数据延迟,导致业务关联的数据有缺失。


技术实现思路

1、本公开实施例提供了一种数据处理方法、装置、设备及存储介质,实现了对数据的关联回填。

2、第一方面,提供了一种数据处理方法,包括:

3、确定待处理数据中的第一类数据和第二类数据,所述第一类数据为与非第一类数据具有关联关系的数据,所述第二类数据为待进行回填处理的数据;

4、将所述第一类数据存储至数据库中;

5、对于所述第二类数据,根据所述第二类数据对应的关键字在所述数据库中查找关联的回填内容,根据回填内容的查找结果输出所述第二类数据。

6、第二方面,提供了一种数据处理装置,包括:

7、数据确定模块,用于确定待处理数据中的第一类数据和第二类数据,所述第一类数据为与非第一类数据具有关联关系的数据,所述第二类数据为待进行回填处理的数据;

8、数据存储模块,用于将所述第一类数据存储至数据库中;

9、数据输出模块,用于对于所述第二类数据,根据所述第二类数据对应的关键字在所述数据库中查找关联的回填内容,根据回填内容的查找结果输出所述第二类数据。

10、第三方面,提供了一种数据处理设备,所述数据处理设备包括:

11、至少一个处理器;以及

12、与所述至少一个处理器通信连接的存储器;其中,

13、所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述第一方面所述的数据处理方法。

14、第四方面,提供了一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现上述第一方面提供的数据处理方法。

15、本公开实施例提供的一种数据处理方法、装置、设备及存储介质,该方法,首先确定待处理数据中的第一类数据和第二类数据,所述第一类数据为与非第一类数据具有关联关系的数据,所述第二类数据为待进行回填处理的数据;然后将所述第一类数据存储至数据库中;对于所述第二类数据,根据所述第二类数据对应的关键字在所述数据库中查找关联的回填内容,根据回填内容的查找结果输出所述第二类数据。上述技术方案,通过对待处理数据划分成具有关联关系的数据和待进行回填处理的数据,将具有关联关系的数据存储至数据库内,并根据该数据库的内容对待进行回填处理的数据进行数据回填。现有技术中主要是通过flink框架对实时数据进行处理。与现有技术相比,本技术方案解决了大数据实时关联处理过程中不同的流式数据到达计算引擎的时间不一定,即会有数据延迟的问题,实现了对数据的关联回填。

16、应当理解,本部分所描述的内容并非旨在标识本公开实施例的的关键或重要特征,也不用于限制本公开实施例的范围。本公开实施例的其它特征将通过以下的说明书而变得容易理解。

本文档来自技高网...

【技术保护点】

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,在确定待处理数据中的第一类数据和第二类数据之前,还包括:

3.根据权利要求1所述的方法,其特征在于,对于所述第二类数据,根据所述第二类数据对应的关键字在所述数据库中查找关联的回填内容,根据回填内容的查找结果输出所述第二类数据,包括:

4.根据权利要求3所述的方法,其特征在于,对于所述第二类数据,根据所述第二类数据对应的关键字在所述数据库中查找关联的回填内容,根据回填内容的查找结果输出所述第二类数据,还包括:

5.根据权利要求4所述的方法,其特征在于,在设定时长后根据所述第二类数据对应的关键字在所述数据库中再次查找回填内容,根据回填内容的查找结果输出所述第二类数据,包括:

6.根据权利要求1所述的方法,其特征在于,在确定待处理数据中的第一类数据和第二类数据之前,还包括:

7.根据权利要求1所述的方法,其特征在于,还包括:

8.一种数据处理装置,其特征在于,包括:

9.一种数据处理设备,其特征在于,包括:</p>

10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任一所述的数据处理方法。

...

【技术特征摘要】

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,在确定待处理数据中的第一类数据和第二类数据之前,还包括:

3.根据权利要求1所述的方法,其特征在于,对于所述第二类数据,根据所述第二类数据对应的关键字在所述数据库中查找关联的回填内容,根据回填内容的查找结果输出所述第二类数据,包括:

4.根据权利要求3所述的方法,其特征在于,对于所述第二类数据,根据所述第二类数据对应的关键字在所述数据库中查找关联的回填内容,根据回填内容的查找结果输出所述第二类数据,还包括:

5.根据权利要求4所述的...

【专利技术属性】
技术研发人员:任丽超唐家伟万月亮
申请(专利权)人:北京锐安科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1