一种智能爬虫任务的方法及装置制造方法及图纸

本发明专利技术公开了一种智能爬虫任务的方法及装置。所述智能爬虫任务的方法，包括：根据预先配置完成的第一爬虫规则生成第一爬虫任务；根据所述第一爬虫任务获取目标网络链接；将所述目标网络链接作为第二爬虫规则的输入；根据所述第二爬虫规则生成的第二爬虫任务存储相应的数据内容。本发明专利技术通过智能化的爬虫任务管理，可获取到两次及两次以上的网络跳转之后的数据内容，从而提升了爬虫任务的智能度。

【技术实现步骤摘要】
一种智能爬虫任务的方法及装置
本专利技术涉及爬虫
，特别涉及一种智能爬虫任务的方法及装置。
技术介绍
爬虫获取目标网页的资源内容，可根据用户的具体意向来定向的获取所需要的资源内容。但是，用户经常面临如下的问题，用户真正需求的资源内容在初始输入的目标网页中的目标网络链接所指向的网页中，即用户无法直接通过爬虫来获取到真正需求的资源内容。如何妥善的解决上述问题，就成为了业界亟待解决的课题。
技术实现思路
本专利技术提供一种智能爬虫任务的方法及装置，用以通过智能化的爬虫任务管理，可获取到两次及两次以上的网络跳转之后的数据内容，从而提升了爬虫任务的智能度。根据本专利技术实施例的第一方面，提供一种智能爬虫任务的方法，包括：根据预先配置完成的第一爬虫规则生成第一爬虫任务；根据所述第一爬虫任务获取目标网络链接；将所述目标网络链接作为第二爬虫规则的输入；通过所述第二爬虫规则生成的第二爬虫任务来存储相应的数据内容。在一个实施例中，所述根据预先配置完成的第一爬虫规则生成第一爬虫任务，包括：在前端根据预先配置完成的第一爬虫规则生成相应的第一爬虫工作；将所述第一爬虫工作发送到控制中心；在所述控制中心根据所述本文档来自技高网...

【技术保护点】
一种智能爬虫任务的方法，其特征在于，包括：根据预先配置完成的第一爬虫规则生成第一爬虫任务；根据所述第一爬虫任务获取目标网络链接；将所述目标网络链接作为第二爬虫规则的输入；通过所述第二爬虫规则生成的第二爬虫任务来存储相应的数据内容。

【技术特征摘要】
1.一种智能爬虫任务的方法，其特征在于，包括：根据预先配置完成的第一爬虫规则生成第一爬虫任务；根据所述第一爬虫任务获取目标网络链接；将所述目标网络链接作为第二爬虫规则的输入；通过所述第二爬虫规则生成的第二爬虫任务来存储相应的数据内容。2.如权利要求1所述的方法，其特征在于，所述根据预先配置完成的第一爬虫规则生成第一爬虫任务，包括：在前端根据预先配置完成的第一爬虫规则生成相应的第一爬虫工作；将所述第一爬虫工作发送到控制中心；在所述控制中心根据所述第一爬虫工作生成相应的第一爬虫任务。3.如权利要求1所述的方法，其特征在于，所述根据所述第一爬虫任务获取目标网络链接，包括：所述控制中心将所述第一爬虫任务发送到执行者；所述执行者获取至少一个待爬取网页的页面内容；从所述页面内容中解析出所述第一爬虫任务的所述目标网络链接；将所述第一爬虫任务的所述目标网络链接发送至所述控制中心。4.如权利要求1所述的方法，其特征在于，所述将所述目标网络链接作为第二爬虫规则的输入，包括：所述控制中心根据所述目标网络链接解析出目标网页；将所述目标网页作为所述第二爬虫规则的待爬取网页。5.如权利要求1所述的方法，其特征在于，所述通过所述第二爬虫规则生成的第二爬虫任务存储相应的数据内容，包括：所述执行者获取所述第二爬虫规则的待爬取网页；通过所述第二爬虫规则解析出目标存储内容；下载并存储所述目标存储内容到预设数据库中。6.一种智能爬虫任务的装置，其特征在于，包括：生成模块，用于根据预...

【专利技术属性】
技术研发人员：郭建辉，
申请(专利权)人：天脉聚源北京传媒科技有限公司，
类型：发明
国别省市：北京,11