下载分布式爬虫实现方法和装置的技术资料

文档序号:27935830

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明提供了一种分布式爬虫实现方法和装置,涉及爬虫应用技术领域,包括创建爬虫任务,并根据爬虫任务中的采集任务和解析任务分别确定对应分布的部署节点,其中,爬虫任务包括至少一个;启动爬虫任务,基于预先确定的警告规则和质量检测规则分别对采集任务和...
该专利属于北京知因智慧科技有限公司所有,仅供学习研究参考,未经过北京知因智慧科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。