一种计算关联网页URL模式pattern的方法和装置制造方法及图纸

本发明专利技术公开了一种计算关联网页URL模式pattern的方法和装置，所述方法包括：判断指定网页的页面元素中是否具有翻页特征anchor；若是，则提取所述翻页特征anchor对应链接到的关联URL；根据所述指定网页的URL以及所述翻页特征anchor对应链接到的关联URL计算与所述指定网页对应的关联网页URL模式pattern。本发明专利技术采用翻页特征anchor识别关联网页，识别准确率高，基于指定网页的URL中和关联URL计算出关联网页URL模式pattern，计算效率高。

【技术实现步骤摘要】
—种计算关联网页URL模式pattern的方法和装置
本专利技术涉及数据处理
，具体涉及一种计算关联网页URL模式pattern的方法、一种计算关联网页URL模式pattern的装置。
技术介绍
随着因特网的发展，愈来愈多的信息是通过网页方式呈现在因特网上供用户查询，同样的通过搜寻引擎在因特网中查询数据也成为最常使用的数据搜寻方法。搜索引擎收录网页时需要针对不同种类的网页采取不同的调度策略，网页种类的识别是一项基础工作，其中翻页(Page turning)网页的识别是一项比较关键的工作。所谓翻页网页，即查看分页文件的上一个页面、下一个页面或任意存在的非当前页面。翻页网页可以将实体书或者移动Web窗体中的内容进行改变，以观看不同内容。在互联网上运用时该机制还呈现可用于浏览到其他页的用户界面元素。现有的翻页网页的识别方法是根据网页的URL(Uniform Resource Locator,统一资源定位符)所包含的关键词来识别是否是索引页。例如，当URL包含有page、pn、p等关键词以及关键词后面有数字时，判断该URL对应的网页为翻页网页。但是，这种识别方法召回率低，并且很多网站的翻页是不具有这些关键词的，t匕如 “http://cq.ABC.com/lvshi/ol2/，，、“http: //bbs.BCA.com/t661_10，，、“http://china.BCD.com/product/20110617/2647”，但是这些网页依然是翻页，使得这些识别方法容易造成误操作，实用性低。
技术实现思路
鉴于上述问题，提出了本专利技术以便提供一种克服上述问题或者至少部分地解决上述问题的一种计算关联网页URL模式pattern的方法和相应的一种计算关联网页URL模式pattern的装置。依据本专利技术的一个方面，提供了一种计算关联网页URL模式pattern的方法，包括:判断指定网页的页面元素中是否具有翻页特征anchor ;若是，则提取所述翻页特征anchor对应链接到的关联URL ；根据所述指定网页的URL以及所述翻页特征anchor对应链接到的关联URL计算与所述指定网页对应的关联网页URL模式pattern。可选地，所述判断指定网页的页面元素中是否具有翻页特征anchor的步骤包括:采用翻页特征anchor在当前网页的DOM树节点中进行匹配；当匹配成功时,则判断当前网页具有翻页特征anchor。可选地，所述翻页特征anchor对应链接到一个或多个关联URL。可选地，所述根据所述指定网页的URL以及所述关联页URL计算所述关联网页URL模式pattern的步骤进一步包括:使用通配字符替换指定网页的URL中的数字块，获得第一特征URL前缀；其中，所述数字块为被间隔标识分割出的单个数字或多个数字；使用通配字符替换所述关联URL中的数字块，获得第二特征URL前缀；当所述第一特征URL前缀与所述第二特征URL前缀相同时，将所述第一特征URL前缀或第二特征URL前缀作为关联网页URL模式pattern。可选地，所述使用通配字符替换指定网页的URL中的数字块，获得第一特征URL前缀的步骤为:采用相同的通配字符替换指定网页的URL中不同位置的数字块，获得第一特征URL前缀；所述使用通配字符替换所述关联URL中的数字块，获得第二特征URL前缀的步骤为:采用相同的通配字符替换所述关联URL中不同位置的数字块，获得第二特征URL前缀。可选地，所述使用通配字符替换指定网页的URL中的数字块，获得第一特征URL前缀的步骤为:分别采用不同的通配字符，替换指定网页的URL中不同位置的数字块，获得第一特征URL前缀；所述使用通配字符替换所述关联URL中的数字块，获得第二特征URL前缀的步骤为:分别采用与第一特征URL相同的通配字符替换所述关联URL在相同位置的数字块，获得第二特征URL前缀。可选地，还包括:通过对关联网页URL模式pattern中的共性部分进行结构分析，提取关联网页URL模式pattern中的翻页块，将所述翻页块替换为首页标识获得首页关联网页的URL ;其中，所述翻页块为多个关联网页URL模式pattern中位置相同但数字不同的数字块。可选地，所述首页标识包括0、1和/或当前关联网页中的最大数值。根据本专利技术的另一方面，提供了一种计算关联网页URL模式pattern的装置，包括:翻页特征anchor判断模块，适于判断指定网页的页面元素中是否具有翻页特征anchor ;若是，则调用关联URL提取模块；[0031 ] URL提取模块，适于提取所述翻页特征anchor对应链接到的关联URL ；关联网页URL模式pattern计算模块，适于根据所述指定网页的URL以及所述翻页特征anchor对应链接到的关联URL计算与所述指定网页对应的关联网页URL模式pattern。可选地，所述翻页特征anchor判断模块还适于:采用翻页特征anchor在当前网页的DOM树节点中进行匹配；当匹配成功时,则判断当前网页具有翻页特征anchor。可选地，所述翻页特征anchor对应链接到一个或多个关联URL。可选地,所述关联网页URL模式pattern计算模块包括:第一特征URL前缀获得子模块，适于使用通配字符替换指定网页的URL中的数字块，获得第一特征URL前缀；其中，所述数字块为被间隔标识分割出的单个数字或多个数字；第二特征URL前缀获得子模块，适于使用通配字符替换所述关联URL中的数字块，获得第二特征URL前缀；关联网页URL模式pattern获得模块，适于在所述第一特征URL前缀与所述第二特征URL前缀相同时，将所述第一特征URL前缀或第二特征URL前缀作为关联网页URL模式 pattern。[0041 ] 可选地，所述第一特征URL前缀获得子模块还适于:采用相同的通配字符替换指定网页的URL中不同位置的数字块，获得第一特征URL前缀；所述第二特征URL前缀获得子模块还适于:采用相同的通配字符替换所述关联URL中不同位置的数字块，获得第二特征URL前缀。可选地，所述第一特征URL前缀获得子模块还适于:分别采用不同的通配字符，替换指定网页的URL中不同位置的数字块，获得第一特征URL前缀；第二特征URL前缀获得子模块还适于:分别采用与第一特征URL相同的通配字符替换所述关联URL在相同位置的数字块，获得第二特征URL前缀。可选地，其特征在于，还包括:首页关联网页URL获得模块，适于通过对关联网页URL模式pattern中的共性部分进行结构分析，提取关联网页URL模式pattern中的翻页块，将所述翻页块替换为首页标识获得首页关联网页的URL ;其中，所述翻页块为多个关联网页URL模式pattern中位置相同但数字不同的数字块。可选地，所述首页标识包括0、1和/或当前关联网页中的最大数值。本专利技术采用翻页特征anchor识别关联网页，识别准确率高，基于指定网页的URL中和关联URL计算出关联网页URL模式pattern，计算效率高。本专利技术使用通配字符替换数字块获得第一特征URL前缀和获得第二特征URL前缀，当所述第一特征URL前缀与所述第二特征URL前缀相同时，将所述第一特征URL前缀或第二特征URL前缀作为关联网页U本文档来自技高网...

【技术保护点】
一种计算关联网页URL模式pattern的方法，包括：判断指定网页的页面元素中是否具有翻页特征anchor；若是，则提取所述翻页特征anchor对应链接到的关联URL；根据所述指定网页的URL以及所述翻页特征anchor对应链接到的关联URL计算与所述指定网页对应的关联网页URL模式pattern。

【技术特征摘要】
1.一种计算关联网页URL模式pattern的方法,包括: 判断指定网页的页面元素中是否具有翻页特征anchor ;若是，则提取所述翻页特征anchor对应链接到的关联URL ； 根据所述指定网页的URL以及所述翻页特征anchor对应链接到的关联URL计算与所述指定网页对应的关联网页URL模式pattern。2.如权利要求1所述的方法，其特征在于，所述判断指定网页的页面元素中是否具有翻页特征anchor的步骤包括: 采用翻页特征anchor在当前网页的DOM树节点中进行匹配； 当匹配成功时， 则判断当前网页具有翻页特征anchor。3.如权利要求1所述的方法，其特征在于，所述翻页特征anchor对应链接到一个或多个关联URL。4.如权利要求1或2或3所述的方法，其特征在于，所述根据所述指定网页的URL以及所述关联页URL计算所述关联网页URL模式pattern的步骤进一步包括: 使用通配字符替换指定网页的URL中的数字块，获得第一特征URL前缀；其中，所述数字块为被间隔标识分割出的单个数字或多个数字； 使用通配字符替换所述关联URL中的数字块，获得第二特征URL前缀； 当所述第一特征URL前缀与所述第二特征URL前缀相同时，将所述第一特征URL前缀或第二特征URL前缀作为关联网页URL模式pattern。5.如权利要求4所述的方法，其特征在于，所述使用通配字符替换指定网页的URL中的数字块，获得第一特征URL前缀的步骤为: 采用相同的通配字符替换指定网页的URL中不同位置的数字块，获得第一特征URL前三双； 所述使用通配字符替换所述关联URL中的数字块，获得第二特征URL前缀的步骤为: 采用相同的通配字符替换所述关联URL中不同位置的数字...

【专利技术属性】
技术研发人员：王智广，
申请(专利权)人：北京奇虎科技有限公司，奇智软件北京有限公司，
类型：发明
国别省市：