数据处理和数据查询方法、装置、设备和计算机可读介质制造方法及图纸

技术编号:26790894 阅读:25 留言:0更新日期:2020-12-22 17:06
本公开的实施例公开了数据处理方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括:控制目标数据查询索引指向预先创建的目标实时索引;在目标时间段内,执行以下数据处理步骤:响应于接收到实时数据,基于实时数据更新目标实时索引并对实时数据进行存储;在目标时间段的结束时间之后,对目标离线数据进行分析,得到分析结果,以及创建分析结果的索引,得到目标离线索引,目标离线数据是通过对在目标时间段的至少一个子时间段内接收到的实时数据进行存储得到的;控制目标数据查询索引指向目标离线索引。该实施方式实现了实时数据和离线数据统一处理。

【技术实现步骤摘要】
数据处理和数据查询方法、装置、设备和计算机可读介质
本公开的实施例涉及计算机
,具体涉及数据处理和数据查询方法、装置、设备和计算机可读介质。
技术介绍
随着各种业务的线上化,也出现了越来越多的网络信息。这些信息数据通常为实时产生。之后,通常会对这些实时产生的数据进行存储,以便后续的使用。这样一份数据就会有两种状态,即实时数据和离线数据。相关的技术在不同的时机或者不同的用户进行数据处理时,处理的结果不兼容,不一致。
技术实现思路
本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。本公开的一些实施例提出了数据处理方法、装置、设备和计算机可读介质,来解决以上
技术介绍
部分提到的技术问题。第一方面,本公开的一些实施例提供了一种数据处理方法,该方法包括:控制目标数据查询索引指向预先创建的目标实时索引;在目标时间段内,执行以下数据处理步骤:响应于接收到实时数据,基于上本文档来自技高网...

【技术保护点】
1.一种数据处理方法,包括:/n控制目标数据查询索引指向预先创建的目标实时索引;/n在目标时间段内,执行以下数据处理步骤:/n响应于接收到实时数据,基于所述实时数据更新所述目标实时索引并对所述实时数据进行存储;/n在所述目标时间段的结束时间之后,对目标离线数据进行分析,得到分析结果,以及创建所述分析结果的索引,得到目标离线索引,所述目标离线数据是通过对在所述目标时间段的至少一个子时间段内接收到的实时数据进行存储得到的;/n控制所述目标数据查询索引指向所述目标离线索引。/n

【技术特征摘要】
1.一种数据处理方法,包括:
控制目标数据查询索引指向预先创建的目标实时索引;
在目标时间段内,执行以下数据处理步骤:
响应于接收到实时数据,基于所述实时数据更新所述目标实时索引并对所述实时数据进行存储;
在所述目标时间段的结束时间之后,对目标离线数据进行分析,得到分析结果,以及创建所述分析结果的索引,得到目标离线索引,所述目标离线数据是通过对在所述目标时间段的至少一个子时间段内接收到的实时数据进行存储得到的;
控制所述目标数据查询索引指向所述目标离线索引。


2.根据权利要求1所述的方法,其中,在所述基于所述实时数据更新所述目标实时索引并对所述实时数据进行存储之前,所述方法还包括:
对所述实时数据进行字段整理,所述字段整理包括将第一目标字段删除和对第二目标字段进行数值计算得到新字段;
更新所述实时数据。


3.根据权利要求1所述的方法,其中,所述目标实时索引中存储有所述实时数据的至少一个实时统计信息;以及
所述基于所述实时数据更新所述目标实时索引,包括:
对所述实时数据进行至少一个维度的分析,以更新所述至少一个实时统计信息。


4.根据权利要求1所述的方法,其中,所述对目标离线数据进行分析,得到分析结果,包括:
对所述目标离线数据进行至少一个维度的统计分析,得到所述目标离线数据的至少一个离线统计信息作为所述分析结果。


5.根据权利要求1所述的方法,其中,所述目标实时索引和所述目标离线索引的索引名称是根据与所述目标时间段相关的信息生成的。


6.一种...

【专利技术属性】
技术研发人员:王雨生郭颖王博洋
申请(专利权)人:北京有竹居网络技术有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1