基于Hadoop平台的Web数据挖掘系统技术方案

技术编号:9170947 阅读:364 留言:0更新日期:2013-09-19 19:28
本发明专利技术基于Hadoop平台的Web数据挖掘系统,涉及数据挖掘系统。该系统包括用户交互层、业务应用层、Web数据挖掘平台层和分布式存储计算层;所述的用户交互层,用于用户和系统之间的交互,包括:用户管理模块、业务模块和展示模块;所述的业务应用层包括:业务响应模块和工作流模块;所述的Web数据挖掘平台层包括:数据加载模块、结果存储模块、模式评估模块、并行ETL模块和并行数据挖掘算法模块;所述的分布式存储计算层,使用Hadoop实现文件分布式存储和并行计算功能,包括:HDFS模块、MapReduce模块和分布式管理模块。本发明专利技术需要巨大计算能力的各个模块的计算和存储要求扩展到HADOOP集群中的各个节点上,利用集群的并行计算和存储能力来进行相关数据挖掘工作。

【技术实现步骤摘要】

【技术保护点】
一种基于Hadoop平台的web数据挖掘系统,包括用户交互层、业务应用层、Web数据挖掘平台层和分布式存储计算层;所述的用户交互层,用于用户和系统之间的交互,包括:用户管理模块、业务模块和展示模块;所述的业务应用层包括:业务响应模块和工作流模块;所述的Web数据挖掘平台层包括:数据加载模块、结果存储模块、模式评估模块、并行ETL模块和并行数据挖掘算法模块;所述的分布式存储计算层,使用Hadoop实现文件分布式存储和并行计算功能,包括:HDFS模块、MapReduce模块和分布式管理模块;在上述用户交互层中:用户管理模块,其用于识别用户身份、设置相关权限以及对用户登录或者注销的管理;业务模块,其...

【技术特征摘要】

【专利技术属性】
技术研发人员:黄玉明李伟
申请(专利权)人:句容智恒安全设备有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1