一种内容检测方法、装置及电子设备制造方法及图纸

本发明专利技术公开了一种内容检测方法、装置及电子设备，所述方法可以获取待检测的网络对象的相关信息；基于所述网络对象的相关信息，确定所述网络对象的风险标签；基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。

【技术实现步骤摘要】
一种内容检测方法、装置及电子设备
本申请涉及计算机
，尤其涉及一种内容检测方法、装置及电子设备。
技术介绍
在互联网安全领域，各网络对象(例如网络地址)对应的内容的安全检测是重要的研究课题之一。目前，采取全量爬取所有需要检测的网络地址对应的内容并检测的方式，可以理解，如果需要检测的网络地址的数量较少，全量爬取并检测很容易实现；但是，如果需要检测的网络地址的数量很大，全量爬取并检测一次需要耗费的计算资源、时间成本和人工成本都很高，检测效率低下。
技术实现思路
本申请实施例提供了一种内容检测方法、装置及电子设备，以提高检测网络对象对应的内容的效率。为解决上述技术问题，本申请实施例是这样实现的：第一方面，提出了一种内容检测方法，所述方法包括：获取待检测的网络对象的相关信息；基于所述网络对象的相关信息，确定所述网络对象的风险标签；基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。第二方面，提出了一种内容检测装置，所述装置包括：信息获取模块，用于获取待检测的网络对象的相关信息；标签确定模块，用于基于所述网络对象的相关信息，确定所述网络对象的风险标签；第一检测模块，用于基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。第三方面，提出了一种电子设备，包括：处理器；以及被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行以下操作：获取待检测的网络对象的相关信息；基于所述网络对象的相关信息，确定所述网络对象的风险标签；基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。第四方面，提出了一种计算机可读存储介质，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的电子设备执行时，使得所述电子设备执行以下操作：获取待检测的网络对象的相关信息；基于所述网络对象的相关信息，确定所述网络对象的风险标签；基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。由以上本申请实施例提供的技术方案可见，本申请实施例提供的方案至少具备如下一种技术效果：由于是先确定出网络对象的风险标签，然后基于与网络对象的风险标签匹配的检测策略，对该网络对象对应的内容进行安全检测，且不同风险标签对应的检测策略不同，而不是每次都对所有网络对象对应的内容都进行检测，这使得单次检测的数据量相对减少，因此可以减少资源消耗、缩短检测时间，进而可以提高网络对象对应的内容的效率。附图说明此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：图1是本说明书实施例提供的内容检测方法的一种流程示意图。图2是本说明书实施例提供的内容检测方法的另一种流程示意图。图3是本说明书实施例提供的内容检测方法的另一种流程示意图。图4是本说明书实施例提供的内容检测方法的一种详细流程示意图。图5是本说明书实施例提供的一种电子设备的结构示意图。图6是本说明书实施例提供的内容检测装置的一种结构示意图。图7是本说明书实施例提供的内容检测装置的另一种结构示意图。图8是本说明书实施例提供的内容检测装置的另一种流程示意图。具体实施方式为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。为了提高检测网络对象对应的内容的效率，本说明书实施例提供一种内容检测方法及装置，该方法和装置可以应用于需要对网络对象对应的内容进行检测的检测系统中。例如，当网络对象为某一电商平台的商户的网络地址时，该方法和装置可以应用于电商平台的商户的网络地址对应的内容的检测系统中。下面结合附图1至图4对本说明书实施例提供的一种内容检测方法进行详细的说明。如图1所示，本说明书实施例提供的一种内容检测方法，可以包括如下步骤：步骤102、获取待检测的网络对象的相关信息。网络对象，是指可以提供网络内容的网络对象，例如网络地址、社交类应用的用户、应用市场中的应用，等等。如果网络对象为网络地址，对应提供的网络内容可以是网络地址对应的网页中的内容；如果网络对象为社交类应用的用户，对应提供的网络内容可以是用户在该社交应用中发布的文章、视频等；如果网络对象为应用市场中的应用，对应提供的网络内容可以是应用的安装文件。网络对象的相关信息可以包括但不限于描述该网络对象本身特性的信息和/或描述该网络对象的所有者(或者说主体)特性的信息。例如，如果网络对象为电商平台的商户的网络地址，那么该网络对象的相关信息可以包括网络地址的访问流量信息、网络地址的创建时间信息、网络地址对应的内容的历史检测信息等描述该网络地址本身特性的信息，以及商户所属的行业类型、商户的交易量、商户的信誉级别、用户对商户的评价信息、商户的类型(例如是否属于商务拓展商户(BusinessDevelopment，BD)等描述网络对象的所有者——商户的特性的信息。如果网络对象为社交应用的用户，那么该网络对象的相关信息可以包括用户的地理位置、用户的性别、用户在社交应用中发布的历史内容所属的行业、用户在社交应用中发布的历史内容的类型、用户是否发布过违规内容等信息等描述网络对象的特性的信息。如果网络对象为应用市场中的应用，那么该网络对象的相关信息可以包括应用的类型、应用的下载量、用户对应用的评价信息等描述网络对象本身特性的信息，以及应用开发者开发的其他应用的下载量、应用开发者开发的其他应用的类型、用户对应用开发者开发的其他应用的评价信息和应用开发者的信誉记录等描述网络对象的所有者特性的信息。在一个例子中，步骤102可以在指定的时间也可以按照一定的周期去获取网络对象的相关信息，获取网络对象的相关信息可以较长，这是因为网络对象的相关信息中的部分信息随时间的推移发生变化的可能性较小，所以可以以一个较长的周期去获取。另外，可以理解，步骤102中获取的网络对象的相关信息可以按照获取时间逐渐累积保存，对于一些不易发生变化的相关信息，可以获取一次之后长期使用，这使得步骤102一次获取的数据量相对较少，因此不会影响检测网络对象对应的内容的效率。步骤104、基于所述网络对象的相关信息，确定所述网络对象的风险标签。风险标签可以用于表征网络对象对应存在的风险程度的高低。在本说明书实施例中，网络对象的风险标签可以由至少一个风险指标按预设的逻辑关系组合而成，或者说风险标签可以包含按照预设逻辑关系组合的至少一个风险指标。其中，预设逻辑关系包括但不限于“与”和“或”等逻辑关系。作为一个例子，当所述网络对象为预设电商平台中的商户的网络地址时，上述风险指标可以是以下指标中的任一种：所述网络地址对应的商户是否在白名单中、所述网络地址的访问热度、所述网络地址是否为新增网络地址、所述网络地址对应的商户的行业类型、所述网络地址对应的商户的交易量、所本文档来自技高网...

【技术保护点】
1.一种内容检测方法，所述方法包括：获取待检测的网络对象的相关信息；基于所述网络对象的相关信息，确定所述网络对象的风险标签；基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。

【技术特征摘要】
1.一种内容检测方法，所述方法包括：获取待检测的网络对象的相关信息；基于所述网络对象的相关信息，确定所述网络对象的风险标签；基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，不同风险标签对应的检测策略不同。2.根据权利要求1所述的方法，在所述基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测之前，所述方法还包括：预先配置与所述风险标签匹配的检测策略。3.根据权利要求2所述的方法，其中，所述风险标签包含按预设逻辑关系组合的至少一个风险指标。4.根据权利要求3所述的方法，其中，所述网络对象为预设电商平台中的商户的网络地址；所述风险指标包括所述网络地址对应的商户是否在白名单中、所述网络地址的访问热度、所述网络地址是否为新增网络地址、所述网络地址对应的商户的行业类型、所述网络地址对应的商户的交易量、所述网络地址对应的商户是否为商务拓展商户和所述网络地址对应的商户是否存在整改记录中的任一指标。5.根据权利要求1所述的方法，其中，所述检测策略中包含检测周期，所述基于与所述风险标签匹配的检测策略，对所述网络对象对应的内容进行安全检测，包括：确定最近一次对所述网络对象对应的内容进行安全检测的历史时间；基于所述检测策略中包含的检测周期和所述历史时间，对所述网络对象对应的内容进行安全检测。6.根据权利要求5所述的方法，其中，所述网络对象为网络地址，所述基于所述检测策略中包含的检测周期和所述历史时间，对所述网络对象对应的内容进行安全检测，包括：基于所述检测策略中包含的检测周期和所述历史时间，确定爬取所述网络对象对应的内容的爬取时间；在到达所述爬取时间后，爬取所述网络对象对应的内容；对爬取的所述网络对象对应的内容进行安全检测。7.根据权利要求6所述的方法，其中，所述检测策略还包括爬取深度、爬取范围和内容检测规则，所述在到达所述爬取时间后，爬取所述网络对象对应的内容，包括：在到达所述爬取时间后，基于所述爬取深度和所述爬取范围，爬取所述网络对象对应的内容；基于所述内容检测规则，对爬取的所述网络对象对应的内容进行安全检测。8.根据权利要求5-7任一项所述的方法...

【专利技术属性】
技术研发人员：李海亮，
申请(专利权)人：阿里巴巴集团控股有限公司，
类型：发明
国别省市：开曼群岛,KY