一种海量数据的多维分析方法及装置制造方法及图纸

技术编号:12621538 阅读:62 留言:0更新日期:2015-12-30 19:15
本发明专利技术提供一种海量数据的多维分析方法及装置,用以解决现有的在线多维数据分析OLAP对海量数据源Hadoop平台上存储的海量数据不能实时、高效地进行多维分析的问题。本发明专利技术包括:对用户发起的多维分析查询请求进行解析处理,得到解析结果,解析结果包括:多维分析查询请求对应的立方体多维模型信息以及结构化查询语句SQL;获取与立方体多维模型信息匹配的数据源,并与数据源建立连接关系,数据源包括:Hadoop平台和/或关系数据库;根据连接关系以及SQL,从Hadoop平台或者关系数据库获取数据查询结果;根据立方体多维模型信息,将数据查询结果转换成多维数据结果并返回给用户。本发明专利技术实现了对Hadoop平台上存储的海量数据实时、高效地进行多维分析的目的。

【技术实现步骤摘要】

本专利技术涉及通信
,特别是指一种海量数据的多维分析方法及装置
技术介绍
在线实时多维数据分析OLAP是数据仓库系统的一种应用,它针对特定的分析主题,设计多种可能的观察方式,设计相应的分析主题结构(即进行事实表和维度表设计),使用户在多维模型的基础上进行快速、稳定、交互式的访问,以达到复杂分析和数据预测的作用。现阶段很多厂商的OLAP支持的数据源规模有限,支持的事实表数据量规模在TB (Terabyte万亿字节)级别规模下,不能对Hadoop ( 一种分布式系统架构)平台上存储的海量数据进行实时、高效地多维分析,为用户带来一定的不便。
技术实现思路
本专利技术的目的在于提供一种海量数据的多维分析方法及装置,用以解决现有的OLAP对Hadoop平台上存储的海量数据不能实时、高效地进行多维分析的的问题。为了实现上述目的,本专利技术提供了一种海量数据的多维分析方法,包括:对用户发起的多维分析查询请求进行解析处理,得到一解析结果,所述解析结果包括:所述多维分析查询请求对应的立方体多维模型信息以及结构化查询语句SQL ;获取与所述立方体多维模型信息匹配的数据源,并与所述数据源建立连接关系,其中,所述数据源包括:海量数据源Hadoop平台和/或关系数据库;根据所述连接关系以及所述结构化查询语句SQL,从所述海量数据源Hadoop平台或者所述关系数据库获取数据查询结果;根据所述立方体多维模型信息,将所述数据查询结果转换成多维数据结果并返回给用户。其中,上述的海量数据的多维分析方法,所述对用户发起的多维分析查询请求进行解析处理,得到一解析结果的步骤包括:根据用户发起的多维分析查询请求,获取相应的多维数据模型;对所述多维数据模型进行解析,得出所述多维分析查询请求对应的立方体多维模型信息以及结构化查询语句SQL,其中,所述立方体多维模型信息包括:立方体名称。其中,所述获取与所述立方体多维模型信息匹配的数据源,并与所述数据源建立连接关系的步骤包括:根据数据源模型中立方体名称与数据源名称的关联关系,获取与所述立方体名称匹配的数据源模型;获取与所述数据源模型中的数据源名称匹配的数据源;与所述数据源建立连接关系。其中,所述与所述数据源建立连接关系的步骤具体为:若与所述立方体多维模型信息匹配的数据源为海量数据源Hadoop平台,则与所述海量数据源Hadoop平台建立连接关系;若与所述立方体多维模型信息匹配的数据源为关系数据库,则与所述关系数据库建立连接关系。其中,所述根据所述连接关系以及所述结构化查询语句SQL,从所述海量数据源Hadoop平台或者所述关系数据库获取数据查询结果的步骤包括:若与所述海量数据源Hadoop平台建立连接关系,则向所述海量数据源Hadoop平台发送所述结构化查询语句SQL ;获取所述海量数据源Hadoop平台根据所述结构化查询语句SQL返回的数据查询结果;若与所述关系数据库建立连接关系,则向所述关系数据库发送所述结构化查询语句 SQL ;获取所述关系数据库根据所述结构化查询语句SQL返回的数据查询结果。本专利技术的实施例还提供了一种海量数据的多维分析装置,包括:解析模块,用于对用户发起的多维分析查询请求进行解析处理,得到一解析结果,所述解析结果包括:所述多维分析查询请求对应的立方体多维模型信息以及结构化查询语句 SQL ;第一获取模块,用于获取与所述立方体多维模型信息匹配的数据源,并与所述数据源建立连接关系,其中,所述数据源包括:海量数据源Hadoop平台和/或关系数据库;第二获取模块,用于根据所述连接关系以及所述结构化查询语句SQL,从所述海量数据源Hadoop平台或者所述关系数据库获取数据查询结果;处理模块,用于根据所述立方体多维模型信息,将所述数据查询结果转换成多维数据结果并返回给用户。其中,上述海量数据的多维分析装置,所述解析模块包括:第一获取单元,用于根据用户发起的多维分析查询请求,获取相应的多维数据模型;解析单元,用于对所述多维数据模型进行解析,得出所述多维分析查询请求对应的立方体多维模型信息以及结构化查询语句SQL,其中,所述立方体多维模型信息包括:立方体名称。其中,所述第一获取模块包括:第二获取单元,用于根据数据源模型中立方体名称与数据源名称的关联关系,获取与所述立方体名称匹配的数据源模型;第三获取单元,用于获取与所述数据源模型中的数据源名称匹配的数据源;连接单元,用于与所述数据源建立连接关系。其中,所述连接单元具体用于若与所述立方体多维模型信息匹配的数据源为海量数据源Hadoop平台,则与所述海量数据源Hadoop平台建立连接关系;若与所述立方体多维模型信息匹配的数据源为关系数据库,则与所述关系数据库建立连接关系。其中,所述第二获取模块包括:第一发送单元,用于若与所述海量数据源Hadoop平台建立连接关系,则向所述海量数据源Hadoop平台发送所述结构化查询语句SQL ;第四获取单元,用于获取所述海量数据源Hadoop平台根据所述结构化查询语句SQL返回的数据查询结果;第二发送单元,用于若与所述关系数据库建立连接关系,则向所述关系数据库发送所述结构化查询语句SQL ;第五获取单元,用于获取所述关系数据库根据所述结构化查询语句SQL返回的数据查询结果。本专利技术实施例具有以下有益效果:本专利技术实施例的海量数据的多维分析方法,根据用户发送的多维分析请求建立与海量数据源Hadoop或者关系数据库的连接通道,并通过SQL查询语句从海量数据源Hadoop或者关系数据库实时获取所要查询的数据,实现了对Hadoop平台上存储的海量数据实时、高效地进行多维分析的目的。【附图说明】图1表示本专利技术实施例的工作流程图;图2表示本专利技术实施例的组件图;图3表TJK本专利技术实施例的表格显TJK效果图;图4表TJK本专利技术实施例的图片显TJK效果图;图5表示本专利技术实施例的结构框图。【具体实施方式】为使本专利技术要解决的技术问题、技术方案和优点更加清楚,下面将结合具体实施例及附图进行详细描述。本专利技术实施例提供了一种海量数据的多维分析方法及装置,解决了现有的OLAP对Hadoop平台上存储的海量数据不能实时、高效地进行多维分析的问题。本专利技术实施例的海量数据的多维分析方法,如图1所示,包括:步骤SlO:对用户发起的多维分析查询请求进行解析处理,得到一解析结果,所述解析结果包括:所述多维分析查询请求对应的立方体多维模型信息以及结构化查询语句SQL ;在本专利技术的具体实施例中,根据用户发起的多维分析查询请求,获取相应的多维数据模型;对所述多维数据模型进行解析,得出所述多维分析查询请求对应的立方体多维模型信息以及结构化查询语句SQL,其中,所述立方体多维模型信息包括:立方体名称。步骤S20:获取与所述立方体多维模型信息匹配的数据源,并与所述数据源建立连接关系,其中,所述数据源包括:海量数据源Hadoop平台和/或关系数据库;当前第1页1 2 3 本文档来自技高网...

【技术保护点】
一种海量数据的多维分析方法,其特征在于,包括:对用户发起的多维分析查询请求进行解析处理,得到一解析结果,所述解析结果包括:所述多维分析查询请求对应的立方体多维模型信息以及结构化查询语句SQL;获取与所述立方体多维模型信息匹配的数据源,并与所述数据源建立连接关系,其中,所述数据源包括:海量数据源Hadoop平台和/或关系数据库;根据所述连接关系以及所述结构化查询语句SQL,从所述海量数据源Hadoop平台或者所述关系数据库获取数据查询结果;根据所述立方体多维模型信息,将所述数据查询结果转换成多维数据结果并返回给用户。

【技术特征摘要】

【专利技术属性】
技术研发人员:吕燕
申请(专利权)人:中兴通讯股份有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1