能够采集多种构造数据源的通用数据采集系统及采集方法技术方案

技术编号:9490111 阅读:173 留言:0更新日期:2013-12-25 23:54
本发明专利技术公开了一种能够采集多种构造数据源的通用数据采集系统以及采集方法,所述采集系统包括:数据仓库、采集程序框架和数据源,为每个需要被采集数据的数据源配设相应的驱动模块,对每一个数据源类别的实例编写配置文件,对每个实例分配唯一性标识,一个数据源类别可对应有多个实例,一个实例只能对应一种数据源类型,设置统一的数据存储格式,每个驱动模块需要将采集过来的数据转化为所述存储格式以便存储。通过本发明专利技术可以使企业在开发过程中复用采集程序,减少开发成本,加快实施部署。

【技术实现步骤摘要】
【专利摘要】本专利技术公开了一种能够采集多种构造数据源的通用数据采集系统以及采集方法,所述采集系统包括:数据仓库、采集程序框架和数据源,为每个需要被采集数据的数据源配设相应的驱动模块,对每一个数据源类别的实例编写配置文件,对每个实例分配唯一性标识,一个数据源类别可对应有多个实例,一个实例只能对应一种数据源类型,设置统一的数据存储格式,每个驱动模块需要将采集过来的数据转化为所述存储格式以便存储。通过本专利技术可以使企业在开发过程中复用采集程序,减少开发成本,加快实施部署。【专利说明】
本发涉及到ETL (数据抽取、转换和加载)技术,特别是针对关系库和实时数据库等异构数据源的数据抽取技术,具体涉及一种。
技术介绍
经过多年的计算机应用和数据积累,许多商业企业保存了大量的原始数据和各种业务数据,这些数据反映了企业主体的经济动态。数据仓库的出现使数据能够以统一的方式集中存储分析统计,形成有效的信息帮助企业决策。由于企业的信息系统都是逐步建立的缺乏统一的标准和平台,实现对不同系统的数据抽取工作只能通过针对不同的平台开发不同的抽取程序,这样就加大了数据抽取的成本和复杂性。
技术实现思路
本文档来自技高网
...

【技术保护点】
一种能够采集多种构造数据源的通用数据采集系统,包括:数据仓库、采集程序框架和数据源,其特征在于,为每个需要被采集数据的数据源配设相应的驱动模块,对每一个数据源类别的实例编写配置文件,对每个实例分配唯一性标识,一个数据源类别可对应有多个实例,一个实例只能对应一种数据源类型,设置统一的数据存储格式,每个驱动模块需要将采集过来的数据转化为所述存储格式以便存储。

【技术特征摘要】

【专利技术属性】
技术研发人员:苏丹高崧吴佳李坤吴舜聂正璞许大卫杜剑雯刘昀来骥王黎李贤李晓东李超刘志伟杨帆李雪梅那琼澜
申请(专利权)人:国家电网公司国网冀北电力有限公司信通分公司北京博望华科科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1