泛滥数据识别方法、装置、设备和介质制造方法及图纸

本公开提供了泛滥数据识别方法、装置、电子设备、介质和程序产品，涉及互联网领域，尤其涉及大数据和智能搜索技术。具体实现方案为：根据互联网数据中每个页面的URL，获取所述互联网数据的数据源结构图，其中，所述数据源结构图至少包括所述互联网数据中各页面所属的站点，以及各站点所属的数据源；根据所述数据源结构图中数据源的数量、各数据源下站点的数量以及各站点下页面的数量，利用归一算法分别计算各站点的泛滥评分和各数据源的泛滥评分；根据所述各站点的泛滥评分和各数据源的泛滥评分，分别计算所述各数据源的总泛滥评分，其中，所述总泛滥评分用于确定数据源是否存在数据泛滥。本公开可以有效地对存在数据泛滥的数据源进行识别。据源进行识别。据源进行识别。

【技术实现步骤摘要】
泛滥数据识别方法、装置、设备和介质


[0001]本公开涉及互联网
，尤其涉及大数据和智能搜索技术，具体涉及一种泛滥数据识别方法、装置、设备、介质和程序产品。

技术介绍

[0002]针对互联网数据的收录，搜索引擎通常以数据站点粒度进行控制，例如，站点下有100个页面，搜索引擎根据质量判断后，给每个站点分配10个收录配额。
[0003]为了能获得更多的搜索引擎配额/权益，部分数据生产者通过建造大量的站点进行作弊，造成数据泛滥。例如，创建100个站点，每个站点1个页面。搜索引擎为了保障生产源的完整性，会收录这100个站点对应的100个页面。然而，收录的这100个页面中包含了大量的低质垃圾数据，严重影响了互联网生态，对数据生产者权益的公平性造成了很大伤害。

技术实现思路

[0004]本公开提供了一种泛滥数据识别方法、装置、设备、介质和程序产品。
[0005]根据本公开的一方面，提供了一种泛滥数据识别方法，包括：
[0006]根据互联网数据中每个页面的URL，获取所述互联网数据的数据源结构图，其中，所述数据源结构图至少包括所述互联网数据中各页面所属的站点，以及各站点所属的数据源；
[0007]根据所述数据源结构图中数据源的数量、各数据源下站点的数量以及各站点下页面的数量，利用归一算法分别计算各站点的泛滥评分和各数据源的泛滥评分；
[0008]根据所述各站点的泛滥评分和各数据源的泛滥评分，分别计算所述各数据源的总泛滥评分，其中，所述总泛滥评分用于确定数据源是否存在数据泛滥。
[0009]根据本公开的另一方面，提供了一种泛滥数据识别装置，包括：
[0010]数据源结构图获取模块，用于根据互联网数据中每个页面的URL，获取所述互联网数据的数据源结构图，其中，所述数据源结构图至少包括所述互联网数据中各页面所属的站点，以及各站点所属的数据源；
[0011]第一计算模块，用于根据所述数据源结构图中数据源的数量、各数据源下站点的数量以及各站点下页面的数量，利用归一算法分别计算各站点的泛滥评分和各数据源的泛滥评分；
[0012]第二计算模块，用于根据所述各站点的泛滥评分和各数据源的泛滥评分，分别计算所述各数据源的总泛滥评分，其中，所述总泛滥评分用于确定数据源是否存在数据泛滥。
[0013]根据本公开的另一方面，提供了一种电子设备，包括：
[0014]至少一个处理器；以及
[0015]与所述至少一个处理器通信连接的存储器；其中，
[0016]所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开任意实施例所述的泛滥数据识别
方法。
[0017]根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使计算机执行本公开任意实施例所述的泛滥数据识别方法。
[0018]根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现本公开任意实施例所述的泛滥数据识别方法。
[0019]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0020]附图用于更好地理解本方案，不构成对本公开的限定。其中：
[0021]图1是根据本公开实施例的一种泛滥数据识别方法的示意图；
[0022]图2是根据本公开实施例的一种示例性的数据源结构图；
[0023]图3是根据本公开实施例的一种泛滥数据识别方法的示意图；
[0024]图4是根据本公开实施例的一种泛滥数据识别装置的示意图；
[0025]图5是用来实现本公开实施例的泛滥数据识别方法的电子设备的框图。
具体实施方式
[0026]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0027]图1是根据本公开实施例的泛滥数据识别方法的流程示意图，本实施例可适用于在搜索引擎收录互联网数据之前，对是否存在数据泛滥的现象进行识别的情况，涉及互联网领域，尤其涉及大数据和智能搜索技术。该方法可由一种泛滥数据识别装置来执行，该装置采用软件和/或硬件的方式实现，优选是配置于电子设备中，例如计算机设备或服务器等。如图1所示，该方法具体包括如下：
[0028]S101、根据互联网数据中每个页面的URL，获取互联网数据的数据源结构图，其中，所述数据源结构图至少包括互联网数据中各页面所属的站点，以及各站点所属的数据源。
[0029]搜索引擎提供给用户的搜索结果是从互联网数据中收录而来。为了维护互联网生态和数据生产者权益的公平性，需要有效地对互联网数据中数据泛滥的现象进行识别，以便采取相应的措施，避免作弊行为的发生，同时也避免收录大量的垃圾数据，提高数据搜索的质量。
[0030]首先需要获取互联网数据中每个页面的URL地址，URL地址中记载有页面有关的信息，因此，可以从中对页面所属的站点以及站点所属的数据源进行提取，构建出数据源结构图。
[0031]其中，数据源可以包括按如下粒度确定的数据源：主域、账号、公司或平台等任意的数据生产者。本公开实施例中，数据源可以是上述粒度中的任意一种或多种，对此不作任何限定，可以根据实际需要进行配置，因此，对泛滥数据源的分析则更加灵活。
[0032]以主域作为数据源为例，图2示出了一种示例性的数据源结构图。如图2所示，主域
作为数据源，其数量可以有多个，每个主域数据源下都包括不同数量的站点，每个站点下又包括不同数量的页面(doc)。通过数据源结构图可以清楚地知道，每个页面来自于哪个站点，以及每个站点属于哪个主域下。此外，当以其他粒度作为数据源时，例如账号，则在数据源结构图中可以示出页面来自于哪个站点，以及每个站点属于哪个账号，也即，获取每个账号、同一账号下的站点以及同一站点下的页面。本公开实施例中，可以从其中任意一个粒度进行分析，也可以从多个粒度进行分析，并对此不作任何限定。
[0033]S102、根据数据源结构图中数据源的数量、各数据源下站点的数量以及各站点下页面的数量，利用归一算法分别计算各站点的泛滥评分和各数据源的泛滥评分。
[0034]互联网数据中包含多个数据源和多个站点，且不同的数据源之间，以及不同的站点之间，其所包含的站点和页面均不相同。如果只从单个站点的粒度来衡量数据是否泛滥，则仍然无法规避数据的生产者作弊的情况，对不同的生产者也是不公平的，例如，创建100个站点，每个站点只有1个页面。因此，本公开实施例中，基于对互联网数据的反向溯源，基于数据的生产源粒本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种泛滥数据识别方法，包括：根据互联网数据中每个页面的URL，获取所述互联网数据的数据源结构图，其中，所述数据源结构图至少包括所述互联网数据中各页面所属的站点，以及各站点所属的数据源；根据所述数据源结构图中数据源的数量、各数据源下站点的数量以及各站点下页面的数量，利用归一算法分别计算各站点的泛滥评分和各数据源的泛滥评分；根据所述各站点的泛滥评分和各数据源的泛滥评分，分别计算所述各数据源的总泛滥评分，其中，所述总泛滥评分用于确定数据源是否存在数据泛滥。2.根据权利要求1所述的方法，其中，所述数据源至少包括按如下粒度确定的数据源：主域、账号、公司或平台。3.根据权利要求1所述的方法，其中，所述根据所述数据源结构图中数据源的数量、各数据源下站点的数量以及各站点下页面的数量，利用归一算法分别计算各站点的泛滥评分和各数据源的泛滥评分，包括：根据所述各数据源下站点的数量以及各站点下页面的数量，计算站点页面均值、站点页面最大值和站点页面最小值；根据所述站点页面均值、站点页面最大值、站点页面最小值以及所述各站点下页面的数量，利用归一算法计算所述各站点的泛滥评分。4.根据权利要求1所述的方法，其中，所述根据所述数据源结构图中数据源的数量、各数据源下站点的数量以及各站点下页面的数量，利用归一算法分别计算各站点的泛滥评分和各数据源的泛滥评分，包括：根据所述数据源的数量以及各数据源下站点的数量，计算数据源站点均值、数据源站点最大值和数据源站点最小值；根据所述数据源站点均值、数据源站点最大值、数据源站点最小值以及所述各数据源下站点的数量，利用归一算法计算所述各数据源的泛滥评分。5.根据权利要求1所述的方法，其中，所述根据所述各站点的泛滥评分和各数据源的泛滥评分，分别计算所述各数据源的总泛滥评分，包括：计算所述各数据源下各站点的泛滥评分的和值；根据所述各数据源对应的所述和值，以及所述各数据源的泛滥评分，计算所述各数据源的总泛滥评分。6.一种泛滥数据识别装置，包括：数据源结构图获取模块，用于根据互联网数据中每个页面的URL，获取所述互联网数据的数据源结构图，其中，所述数据源结构图至少包括所述互联网数据中各页面所属的站点，以及各站点所属的...

【专利技术属性】
技术研发人员：刘伟，张博，林赛群，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：