数据处理方法、数据处理装置、可读介质及电子设备制造方法及图纸

技术编号:19692004 阅读:29 留言:0更新日期:2018-12-08 11:13
本发明专利技术提供了一种数据处理方法、数据处理装置、可读介质及电子设备。该数据处理方法包括:获取第一数据库中的增量数据;对所述增量数据进行统计分析,以生成统计结果;将所述统计结果存储至第二数据库;基于所述第二数据库响应客户端的数据查询请求。本发明专利技术的技术方案使得对数据的统计及查询操作不会占用第一数据库的资源,进而能够避免数据统计及查询操作影响第一数据库的正常业务操作。

【技术实现步骤摘要】
数据处理方法、数据处理装置、可读介质及电子设备
本专利技术涉及数据处理
,具体而言,涉及一种数据处理方法、数据处理装置、可读介质及电子设备。
技术介绍
对于关系型数据库,往往都有报表统计的需求,例如电商系统需要统计每分钟用户的下单量,物流系统需要统计每分钟妥投的包裹量。如果业务量大,关系型数据库的压力也会很大,如果关系型数据库在处理业务请求的同时,还要处理报表统计需求,有可能会影响正常业务请求的处理。另外,在业务量巨大的情况下,关系型数据库可能使用了分库分表技术,这时若想通过数据库来统计整体的报表,就变得很困难。相关技术中提出的通过查询关系型数据库来生成统计报表数据的方案如图1所示,其过程主要包括:客户端发起报表查询请求,Web服务接收到客户端发起的请求,然后根据客户端的请求生成报表统计SQL语句并发送给数据库,数据库执行SQL,并将结果返回给Web服务,Web服务将数据库返回的结果发送给客户端。但是,对于复杂逻辑的统计报表来说,相关技术中采用的SQL查询方式效率低、并且会占用数据库的资源,有可能影响数据库的正常业务操作;而为了实现复杂逻辑统计报表的查询,往往需要给数据库建立适本文档来自技高网...

【技术保护点】
1.一种数据处理方法,其特征在于,包括:获取第一数据库中的增量数据;对所述增量数据进行统计分析,以生成统计结果;将所述统计结果存储至第二数据库;基于所述第二数据库响应客户端的数据查询请求。

【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:获取第一数据库中的增量数据;对所述增量数据进行统计分析,以生成统计结果;将所述统计结果存储至第二数据库;基于所述第二数据库响应客户端的数据查询请求。2.根据权利要求1所述的数据处理方法,其特征在于,对所述增量数据进行统计分析,以生成统计结果的步骤,包括:获取指标公式,其中,每个所述指标公式对应于所述增量数据的一种统计指标;根据所述指标公式,在所述增量数据中查找对应的指标增量;根据查找到的指标增量,生成所述统计结果。3.根据权利要求2所述的数据处理方法,其特征在于,根据所述指标公式,在所述增量数据中查找对应的指标增量的步骤,包括:解析所述指标公式中包含的各个匹配表达式,以得到所述各个匹配表达式的值;基于所述各个匹配表达式的值,匹配所述增量数据中的指标增量。4.根据权利要求3所述的数据处理方法,其特征在于,解析所述指标公式中包含的任一匹配表达式的过程,包括:根据所述任一匹配表达式的内容,基于匹配表达式与解析代码的映射关系生成所述任一匹配表达式的解析代码;编译所述任一匹配表达式的解析代码,得到所述任一匹配表达式的实现类;根据所述任一匹配表达式的实现类,生成所述任一匹配表达式的解析实例;通过所述任一匹配表达式的解析实例解析所述任一匹配表达式。5.根据权利要求4所述的数据处理方法,其特征在于,还包括:在生成所述任一匹配表达式的解析代码之前,判断是否已存在所述任一匹配表达式的解析实例;若已存在所述任一匹配表达式的解析实例,则直接根据所述任一匹配表达式的解析实例解析所述任一匹配表达式;若不存在所述任一匹配表达式的解析实例,则根据所述任一匹配表达式的内容,基于匹配表达式与解析代码的映射关系生成所述任一匹配表达式的解析代码。6.根据权利要求3所述的数据处理方法,其特征在于,所述各个匹配表达式包括:用于判断所述增量数据是否符合指标计算要求的指标条件表达式、用于标识要统计的指标维度的指标维度表达式、用于标识要统计的指标值的指标增量值表达式、用于标识指标业务发生时间的时间表达式。7.根据权利要求1所述的数据处理方法,其特征在于,还包括:在对所述增量数据进行统计分析时,根据所述增量数据的业务主键判断是否已对所述增量数据进行统计分析;若根据所述增量数据的业务主键判定已对所述增量数据进行统计分析,则不对所述增量数据进行统计分析。8.根据权利要求2所述的数据处理方法,其特征在于,根据查找到的指标增量,生成所述统计结果的步骤...

【专利技术属性】
技术研发人员:赵玉开者文明乔晓强王宝令蔚伟
申请(专利权)人:北京京东尚科信息技术有限公司北京京东世纪贸易有限公司
类型:发明
国别省市:北京,11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1