一种数据仓库一键搭建的方法、系统及存储介质技术方案

技术编号:25550645 阅读:23 留言:0更新日期:2020-09-08 18:49
本发明专利技术公开了一种数据仓库一键搭建的方法、系统及存储介质,该方法包括:持续系统集成工具获取用户输入的第一参数类型,并生成数据分类工具创建类的第一相关命令和数据收集工具收集数据的第二相关命令,以通过所述第一相关命令、所述第二相关命令分别更新所述数据分类工具、所述数据收集工具;其中,所述第一相关命令和所述第二相关命令中携带所述第一参数类型;更新后的所述数据分类工具接收数据服务器产生的基础数据,并从所述基础数据中获取属于所述第一参数类型的第一数据;更新后的所述数据收集工具,按所述第一参数类型对应的地址将所述第一数据存储到存储设备中的对应位置。

【技术实现步骤摘要】
一种数据仓库一键搭建的方法、系统及存储介质
本专利技术涉及大数据领域,尤其是涉及一种数据仓库一键搭建的方法、系统及存储介质。
技术介绍
自从进入2012年,大数据(bigdata)一词越来越多地被提及,人们用它来描述和定义信息爆炸时代产生的海量数据。例如,在购物网站通过对用户购物的海量数据进行收集、研究,可以确定用户感兴趣的商品、可以进一步研究这些商品有什么特征,从而为企业提供产品设计的依据,让企业可以及时的调整设计方向。又如,在生产产品的过程中,可以通过对生产设备在工作过程中产生的海量动作数据、运行数据等进行收集、研究,可以及时发现设备可能将要出现的问题,或找到产品产生瑕疵与设备执行过程中某个或某些步骤之间的关联性,从而预先解决设备中可能存在的问题,提高产品良率等。目前,对海量数据进行收集通常会采用数据仓库技术(ExtractTransformLoad,ETL),其核心是将业务系统的数据经过抽取、清洗转换之后加载到数据仓库的过程,目的是将企业中的分散、零乱、标准不统一的数据整合到一起,为企业的决策提供分析依据。本文档来自技高网...

【技术保护点】
1.一种数据仓库一键搭建的方法,其特征在于,包括:/n持续系统集成工具获取用户输入的第一参数类型,并生成数据分类工具创建类的第一相关命令和数据收集工具收集数据的第二相关命令,以通过所述第一相关命令、所述第二相关命令分别更新所述数据分类工具、所述数据收集工具;其中,所述第一相关命令和所述第二相关命令中携带所述第一参数类型;/n更新后的所述数据分类工具接收数据服务器产生的基础数据,并从所述基础数据中获取属于所述第一参数类型的第一数据;/n更新后的所述数据收集工具,按所述第一参数类型对应的地址将所述第一数据存储到存储设备中的对应位置。/n

【技术特征摘要】
1.一种数据仓库一键搭建的方法,其特征在于,包括:
持续系统集成工具获取用户输入的第一参数类型,并生成数据分类工具创建类的第一相关命令和数据收集工具收集数据的第二相关命令,以通过所述第一相关命令、所述第二相关命令分别更新所述数据分类工具、所述数据收集工具;其中,所述第一相关命令和所述第二相关命令中携带所述第一参数类型;
更新后的所述数据分类工具接收数据服务器产生的基础数据,并从所述基础数据中获取属于所述第一参数类型的第一数据;
更新后的所述数据收集工具,按所述第一参数类型对应的地址将所述第一数据存储到存储设备中的对应位置。


2.如权利要求1所述的方法,其特征在于,持续系统集成工具获取用户输入的第一参数类型后,还包括:
所述持续系统集成工具获取所述用户输入的第二参数类型,并生所述第一相关命令和所述第二相关命令,以通过所述第一相关命令、所述第二相关命令分别更新所述数据分类工具、所述数据收集工具;其中,所述第一相关命令和所述第二相关命令中还携带所述第二参数类型。


3.如权利要求2所述的方法,其特征在于,还包括:
更新后的所述数据分类工具从所述第一数据中获取属于所述第二参数类型的第二数据。


4.如权利要求3所述的方法,其特征在于,还包括:
更新后的所述数据收集工具,按所述第二参数类型对应的地址将所述第二数据存储到所述存储设备中的对应位置。


5.如权利要求1所述的方法,其特征在于,所述存储设备上部署的是Hadoop。


6.如权利要求1-5任一项所述的方法,其...

【专利技术属性】
技术研发人员:商晓健
申请(专利权)人:京东方科技集团股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1