一种网页信息抽取方法、装置、设备及存储介质制造方法及图纸

本发明专利技术公开了一种网页信息抽取方法、装置、设备及存储介质，属于互联网技术领域。该方法包括：对待处理网页进行解析，得到目标树对象、以及所述目标树对象中节点对应的文本信息；基于目标标题分类器和目标实体分类器，分别对所述目标树对象中节点对应的文本信息进行处理，并根据处理结果从所述目标树对象中确定标题节点集合和实体节点集合；基于目标实体识别模型，对实体节点集合对应的文本信息进行实体抽取，得到所述待处理网页的实体信息；根据所述标题节点集合和所述实体节点集合，确定所述待处理网页的内容位置信息。通过上述技术方案，能够实现对结构灵活的网页进行信息抽取。取。取。

【技术实现步骤摘要】
一种网页信息抽取方法、装置、设备及存储介质


[0001]本专利技术涉及互联网
，尤其涉及一种网页信息抽取方法、装置、设备及存储介质。

技术介绍

[0002]处于互联网时代的今天，网页成了大多数人认识世界的重要信息载体。同时，由于网页通常包含或多或少的噪音文本，因此人们对于从网页中挖掘有效信息的需求越来越多。
[0003]在工业数据挖掘过程中，主要任务是进行实体抽取以用于专业领域的数据分析；但也通常附加网页内容的抽取任务，所抽取的网页内容需包含所抽取的实体，以屏蔽用于网页中无关的文本块，对抽取实体的上下文进行局部展示。但是，已有的网页内容抽取方案，大多数只适用于结构固定的网页，对于来源于不同站点的数据都需要重新设置对应的抽取策略，缺乏通用性，因此，亟需改进。

技术实现思路

[0004]本专利技术提供了一种网页信息抽取方法、装置、设备及存储介质，以实现对结构灵活的网页进行信息抽取。
[0005]根据本专利技术的一方面，提供了一种网页信息抽取方法，该方法包括：
[0006]对待处理网页进行解析，得到目标树对象、以及所述目标树对象中节点对应的文本信息；
[0007]基于目标标题分类器和目标实体分类器，分别对所述目标树对象中节点对应的文本信息进行处理，并根据处理结果从所述目标树对象中确定标题节点集合和实体节点集合；
[0008]基于目标实体识别模型，对实体节点集合对应的文本信息进行实体抽取，得到所述待处理网页的实体信息；
[0009]根据所述标题节点集合和所述实体节点集合，确定所述待处理网页的内容位置信息
[0010]根据本专利技术的另一方面，提供了一种网页信息抽取装置，该装置包括：
[0011]网页信息解析模块，用于对待处理网页进行解析，得到目标树对象、以及所述目标树对象中节点对应的文本信息；
[0012]节点集合确定模块，用于基于目标标题分类器和目标实体分类器，分别对所述目标树对象中节点对应的文本信息进行处理，并根据处理结果从所述目标树对象中确定标题节点集合和实体节点集合；
[0013]实体信息确定模块，用于基于目标实体识别模型，对实体节点集合对应的文本信息进行实体抽取，得到所述待处理网页的实体信息；
[0014]内容位置信息确定模块，用于根据所述标题节点集合和所述实体节点集合，确定
所述待处理网页的内容位置信息。
[0015]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0016]至少一个处理器；以及
[0017]与所述至少一个处理器通信连接的存储器；其中，
[0018]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的网页信息抽取方法。
[0019]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的网页信息抽取方法。
[0020]本专利技术实施例的技术方案，通过对待处理网页进行解析，得到目标树对象、以及目标树对象中节点对应的文本信息，之后基于目标标题分类器和目标实体分类器，分别对目标树对象中节点对应的文本信息进行处理，并根据处理结果从目标树对象中确定标题节点集合和实体节点集合，进而基于目标实体识别模型，对实体节点集合对应的文本信息进行实体抽取，得到待处理网页的实体信息，最后根据标题节点集合和实体节点集合，确定待处理网页的内容位置信息。上述技术方案，引入标题分类器和实体分类器，即双分类器来过滤标题节点和实体节点，通过这两个辅助分类器，可以对不同结构的网页进行信息抽取，增强了通用性；同时还可以提高网页信息抽取的准确性。
[0021]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0022]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0023]图1是根据本专利技术实施例一提供的一种网页信息抽取方法的流程图；
[0024]图2A是根据本专利技术实施例二提供的一种网页信息抽取方法的流程图；
[0025]图2B是根据本专利技术实施例二提供的一种候选内容节点确定的示意图；
[0026]图3是根据本专利技术实施例三提供的一种网页信息抽取方法的流程图；
[0027]图4是根据本专利技术实施例四提供的一种网页信息抽取装置的结构示意图；
[0028]图5是实现本专利技术实施例的网页信息抽取方法的电子设备的结构示意图。
具体实施方式
[0029]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0030]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“样本”、“目标”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0031]此外，还需要说明的是，本专利技术的技术方案中，所涉及的待处理网页等的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。
[0032]实施例一
[0033]图1是根据本专利技术实施例一提供的一种网页信息抽取方法的流程图。本实施例可适用于如何对网页信息进行抽取的情况，该方法可以由网页信息抽取装置来执行，该网页信息抽取装置可以采用硬件和/或软件的形式实现，该网页信息抽取装置可集成于承载网页信息抽取功能的电子设备中，例如服务器中。如图1所示，本实施例的网页信息抽取方法可以包括：
[0034]S110、对待处理网页进行解析，得到目标树对象、以及目标树对象中节点对应的文本信息。
[0035]本实施例中，待处理网页是指需要进行信息抽取的网页文档，例如可以是HTML(Hyper Text Markup Language)文档。需要说明的是，HTML文档是网页的具体数据表现形式，网页是HTML文档经过浏览器渲染后的呈现形式本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种网页信息抽取方法，其特征在于，包括：对待处理网页进行解析，得到目标树对象、以及所述目标树对象中节点对应的文本信息；基于目标标题分类器和目标实体分类器，分别对所述目标树对象中节点对应的文本信息进行处理，并根据处理结果从所述目标树对象中确定标题节点集合和实体节点集合；基于目标实体识别模型，对实体节点集合对应的文本信息进行实体抽取，得到所述待处理网页的实体信息；根据所述标题节点集合和所述实体节点集合，确定所述待处理网页的内容位置信息。2.根据权利要求1所述的方法，其特征在于，所述根据所述标题节点集合和所述实体节点集合，确定所述待处理网页的内容位置信息，包括：对所述标题节点集合和所述实体节点集合进行节点匹配，得到标题实体节点对集合；根据所述标题实体节点对集合、以及所述目标树对象中节点之间的层级关系，从所述目标树对象中确定目标内容节点集合；根据所述目标内容节点集合，确定所述待处理网页的内容位置信息。3.根据权利要求2所述的方法，其特征在于，所述对所述标题节点集合和所述实体节点集合进行节点匹配，得到标题实体节点对，包括：根据所述标题节点集合中节点与所述实体节点集合中节点之间的距离，对所述标题节点集合和所述实体节点集合进行节点匹配，得到标题实体节点对。4.根据权利要求2所述的方法，其特征在于，所述根据所述标题实体节点对集合、以及所述目标树对象中节点之间的层级关系，从所述目标树对象中确定目标内容节点集合，包括：根据所述标题实体节点对集合、以及所述目标树对象中节点之间的层级关系，从所述目标树对象中确定候选内容节点集合；对所述候选内容节点集合进行去重处理，得到目标内容节点集合。5.根据权利要求4所述的方法，其特征在于，所述根据所述标题实体节点对集合、以及所述目标树对象中节点之间的层级关系，从所述目标树对象中确定候选内容节点集合，包括：对于每一标题实体节点对，根据所述目标树对象中节点之间的...

【专利技术属性】
技术研发人员：ꢀ七四专利代理机构，
申请(专利权)人：数魔方北京医药科技有限公司，
类型：发明
国别省市：