温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本发明公开了一种基于内存数据库的分布式爬虫框架及实现方法,所述的分布式爬虫框架包括以下模块:生产者爬虫、消费者爬虫、过滤器以及内存数据库、消息队列、存储介质,每个模块均可以单独运行、解耦合,互不干扰,而且各个模块均易于扩展。本分布式爬虫的实...该专利属于成都嗨翻屋文化传播有限公司所有,仅供学习研究参考,未经过成都嗨翻屋文化传播有限公司授权不得商用。
温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本发明公开了一种基于内存数据库的分布式爬虫框架及实现方法,所述的分布式爬虫框架包括以下模块:生产者爬虫、消费者爬虫、过滤器以及内存数据库、消息队列、存储介质,每个模块均可以单独运行、解耦合,互不干扰,而且各个模块均易于扩展。本分布式爬虫的实...