网页类别知识库的建立系统及方法技术方案

技术编号:8241568 阅读:200 留言:0更新日期:2013-01-24 22:29
本发明专利技术公开了一种网页类别知识库的建立系统,涉及互联网技术领域,该系统包括:样本页面框架ID计算模块,适于抽取样本网页的页面框架,计算样本网页的页面框架ID;模式累计模块,适于累计相同ID的页面框架数量达到阈值时,计算样本网页的页面框架模式;知识库建立模块,适于建立样本网页的类别和所述页面框架模式的映射关系以生成网页类别知识库。本发明专利技术还公开了一种网页类别知识库的建立方法。根据本发明专利技术的网页类别知识库的建立系统及方法可以建立识别网页类别的知识库以快速识别网页类别,由此解决了全网搜索无法区分网页类别的问题,取得了快速识别网页类别的有益效果。

【技术实现步骤摘要】

本专利技术涉及互联网
,具体涉及一种。
技术介绍
在搜索技术中,基本上分为两大类。一类是以整个互联网为对象,抓取全部网页(目前在一个站点内会限制抓取深度,且一般不处理js (Java script),而且只是处理部分动态页面),并对网页进行处理和分析的网页搜索,即全网搜索。另一类是只针对某类页面进行抓取和分析处理的垂直搜索,如图片搜索、视频搜索、博客搜索、论坛搜索、新闻搜索等。对于大部分垂直搜索来说,目前都是基于种子(也称作列表页)进行处理。垂直搜索的 处理可分为两个部分其一是找种子;其二是从种子页面上发现具体产品页面,即不同类另IJ (图片、视频、新闻等)的页面,然后对这些产品页面进行处理。现有的全网搜索,基本上不考虑垂直搜索的需求,无法分类不同的产品,即无法区分网页类别,只能为垂直搜索辅助发掘一些有用的信息。如果既有垂直搜索,由于网页搜索,两者的分析处理方式不同。系统之间互相独立,全网搜索下载、分析处理过的页面,垂直搜索还会独立的进行下载和分析处理,无法共享资源,两者不能有机的整合使垂直搜索共享全网搜索的资源。因此,建立能够自动识别网页类别的知识库是亟待解决的问题。专利技本文档来自技高网...

【技术保护点】
一种网页类别知识库的建立系统,包括:样本页面框架ID计算模块,适于抽取样本网页的页面框架,计算样本网页的页面框架ID;模式累计模块,适于累计相同ID的页面框架数量达到阈值时,计算样本网页的页面框架模式;知识库建立模块,适于建立样本网页的类别和所述页面框架模式的映射关系以生成网页类别知识库。

【技术特征摘要】

【专利技术属性】
技术研发人员:卢宏林
申请(专利权)人:北京奇虎科技有限公司奇智软件北京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1