下载一种基于MapReduce算法的并行识别、统计网页URL的方法的技术资料

文档序号:10317693

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明公开了一种基于MapReduce算法的并行识别、统计网页URL的方法,包括步骤:将捕获的网络数据流量以block(块,默认大小64M)为单位分散存储在HDFS(分布式文件系统)中;提取URL之前,重组HTTP请求;执行Job1,从重组...
该专利属于重庆邮电大学所有,仅供学习研究参考,未经过重庆邮电大学授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。