一种图片风险检测方法、装置、设备及介质制造方法及图纸

本说明书实施例公开了一种图片风险检测方法、装置、设备及介质，图片风险检测方法包括：对任意或指定的待检测图片，确定所述待检测图片的图片特征是否与图片特征库中的已有图片特征匹配；若是，则根据相匹配的已有图片特征确定所述待检测图片的可匹配对象，根据所述可匹配对象确定所述待检测图片的风险检测结果；若否，则将所述待检测图片的图片特征加入图片特征库，并对所述待检测图片进行同步和/或异步风险检测，确定所述待检测图片的风险检测结果。

A Picture Risk Detection Method, Device, Equipment and Media

The embodiment of this specification discloses an image risk detection method, device, device and medium. The image risk detection method includes: determining whether the image feature of the image to be detected matches the existing image feature in the image feature library for any or specified image to be detected; if so, determining the matching of the image to be detected according to the matching existing image feature. The object determines the risk detection result of the picture to be detected according to the matchable object, and if not, adds the image features of the picture to be detected to the picture feature library, and carries out synchronous and/or asynchronous risk detection on the picture to be detected to determine the risk detection result of the picture to be detected.

【技术实现步骤摘要】
一种图片风险检测方法、装置、设备及介质
本申请涉及计算机
，尤其涉及一种图片风险检测方法、装置、设备及介质。
技术介绍
互联网内容安全领域，图片风险检测一直都是至关重要的一个方面。目前主流的图片检测方案都是基于各种图片检测算法，每次检测图片时，将图片下载下来进行算法计算，然后得出风险结论。但是这种方案有一个共同的缺点就是耗时过长，一般在几百ms以上。如果对图片进行同步检测，在一些实时用户交互场景体验会很差，只能使用异步系统检测+人工审核的方式。这种异步方式对于很多有问题的图片增加了曝光时间，对于明确不需要检测的图片还会进行检测，浪费系统资源，另外，上述图片检测方案的检测准确率也较低。基于以上内容，需要更有效和更高效的图片风险检测方案。
技术实现思路
本说明书实施例提供了一种图片风险检测方法、装置、设备及介质，用以解决如何更有效和更高效地进行图片风险检测的技术问题。为解决上述技术问题，本说明书实施例是这样实现的：本说明书实施例提供一种图片风险检测方法，包括：对任意或指定的待检测图片，确定所述待检测图片的图片特征是否与图片特征库中的已有图片特征匹配；若是，则根据相匹配的已有图片特征确定所述待检测图片的可匹配对象，根据所述可匹配对象确定所述待检测图片的风险检测结果；若否，则将所述待检测图片的图片特征加入图片特征库，并对所述待检测图片进行同步和/或异步风险检测，确定所述待检测图片的风险检测结果。本说明书实施例提供一种图片风险检测装置，包括匹配模块、风险检测结果确定模块以及存库模块；匹配模块，用于对任意或指定的待检测图片，确定所述待检测图片的图片特征是否与图片特征库中的已有图片特征匹配；若是，则所述匹配模块根据相匹配的已有图片特征确定所述待检测图片的可匹配对象，所述风险检测结果确定模块根据所述可匹配对象确定所述待检测图片的风险检测结果；若否，则所述存库模块将所述待检测图片的图片特征加入图片特征库，所述风险检测结果确定模块对所述待检测图片进行同步和/或异步风险检测，确定所述待检测图片的风险检测结果。本说明书实施例提供一种图片风险检测设备，包括：至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够：对任意或指定的待检测图片，确定所述待检测图片的图片特征是否与图片特征库中的已有图片特征匹配；若是，则根据相匹配的已有图片特征确定所述待检测图片的可匹配对象，根据所述可匹配对象确定所述待检测图片的风险检测结果；若否，则将所述待检测图片的图片特征加入图片特征库，并对所述待检测图片进行同步和/或异步风险检测，确定所述待检测图片的风险检测结果。本说明书实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令被处理器执行时实现如下的步骤：对任意或指定的待检测图片，确定所述待检测图片的图片特征是否与图片特征库中的已有图片特征匹配；若是，则根据相匹配的已有图片特征确定所述待检测图片的可匹配对象，根据所述可匹配对象确定所述待检测图片的风险检测结果；若否，则将所述待检测图片的图片特征加入图片特征库，并对所述待检测图片进行同步和/或异步风险检测，确定所述待检测图片的风险检测结果。本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果：充分利用了已有图片风险检测结果并对已有图片风险检测结果不断进行扩容或更新，并将图片特征作为匹配内容，可以快速确定与待检测图片相匹配的图片，并根据匹配出的图片快速得到待检测图片的风险检测结果，有效降低图片风险检测耗时，提高图片风险检测准确率和检测效率。附图说明为了更清楚地说明本说明书实施例或现有技术中的技术方案，下面将对本说明书实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。图1是本说明书第一个实施例提供的一种实际应用场景下的图片风险检测系统的示意图。图2是本说明书第二个实施例提供的一种图片风险检测方法的流程示意图。图3是本说明书第二个实施例提供的图片风险检测流程图。图4是本说明书第三个实施例提供的图片特征匹配示意图。图5是本说明书第三个实施例提供的图片风险检测示意图。图6是本说明书第三个实施例提供的特征-指纹映射表示意图。图7是本说明书第三个实施例提供的特征-指纹字典表示意图。图8是本说明书第五个实施例提供的一种图片风险检测装置的结构示意图。图9是本说明书第五个实施例提供的另一种图片风险检测装置的结构示意图。具体实施方式为了使本
的人员更好地理解本说明书中的技术方案，下面将结合本说明书实施例中的附图，对本说明书实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本说明书实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。现有技术中，用户在互联网上发布图片时，需要将图片下载下来进行算法计算，然后得出风险结论。如图1所示，在本说明书的第一个实施例中，用户在互联网上发布图片后，通过图片风险检测系统11确定待检测图片的图片特征，并确定待检测图片的图片特征是否与图片特征库中的已有的图片特征匹配。若是，则根据相匹配的已有图片特征确定所述待检测图片的可匹配对象，根据所述可匹配对象确定所述待检测图片的风险检测结果；若否，则将所述待检测图片的图片特征加入图片特征库，并对所述待检测图片进行同步和/或异步风险检测，确定所述待检测图片的风险检测结果。本实施例充分利用了已有图片风险检测结果并对已有图片风险检测结果不断进行扩容或更新，并将图片特征作为匹配内容，可以快速确定与待检测图片相匹配的图片，并根据匹配出的图片快速得到待检测图片的风险检测结果，有效降低图片风险检测耗时，提高图片风险检测准确率和检测效率。从程序角度而言，上述流程的执行主体可以为计算机或者服务器或者相应的图片风险检测系统等。另外，也可以由第三方应用客户端协助所述执行主体执行上述流程。图2是本说明书第二个实施例提供的一种图片风险检测方法的流程示意图，图3是本说明书第二个实施例提供的图片风险检测流程图。结合图2和图3，本说明书第二个实施例提供的一种图片风险检测方法包括：S101：对任意或指定的待检测图片，确定所述待检测图片的图片特征是否与图片特征库中的已有图片特征匹配。在本实施例中，图片的传播可以包括用户在互联网上发布、下载图片以及图片在不同网络服务器或者互联网存储介质中的迁移等，任何在网络中进行传播的图片都可以作为待检测图片。相应的，也可以指定某些图片作为待检测图片，例如在指定平台上指定时间段用户发布的图片，不同场景下的图片指定规则可能不同。当然，待检测图片也不一定局限于正在网络中进行传播的图片，也可以将某些没有传播行为的图片作为待检测图片。总之，在本实施例中，可以主要关注图片是否要进行风险检测，而不论图片的来源或者状态。对于任一张待检测图片，不妨记为待检测图片A，可以确定待检测图片A的图片特征。本实施例中，图片特征可本文档来自技高网...

【技术保护点】
1.一种图片风险检测方法，其特征在于，对任意或指定的待检测图片，确定所述待检测图片的图片特征是否与图片特征库中的已有图片特征匹配；若是，则根据相匹配的已有图片特征确定所述待检测图片的可匹配对象，根据所述可匹配对象确定所述待检测图片的风险检测结果；若否，则将所述待检测图片的图片特征加入图片特征库，并对所述待检测图片进行同步和/或异步风险检测，确定所述待检测图片的风险检测结果。

【技术特征摘要】
1.一种图片风险检测方法，其特征在于，对任意或指定的待检测图片，确定所述待检测图片的图片特征是否与图片特征库中的已有图片特征匹配；若是，则根据相匹配的已有图片特征确定所述待检测图片的可匹配对象，根据所述可匹配对象确定所述待检测图片的风险检测结果；若否，则将所述待检测图片的图片特征加入图片特征库，并对所述待检测图片进行同步和/或异步风险检测，确定所述待检测图片的风险检测结果。2.如权利要求1所述的方法，其特征在于，所述图片特征的类型包括图片路径特征和/或MD5值和/或hash值。3.如权利要求2所述的方法，其特征在于，所述图片路径特征包括图片http地址或图片存储ID。4.如权利要求2所述的方法，其特征在于，所述图片特征的匹配优先级由高到低分别为图片路径特征、MD5值、hash值。5.如权利要求1所述的方法，其特征在于，确定所述待检测图片的图片特征是否与已有图片特征匹配包括：确定所述待检测图片是否至少有一种类型的图片特征与已有图片特征匹配。6.如权利要求1所述的方法，其特征在于，与所述待检测图片的图片特征相匹配的图片特征对应的图片为所述待检测图片的可匹配对象。7.如权利要求1至6中任一项所述的方法，其特征在于，对任一图片，若该图片的图片特征加入了图片特征库，则生成该图片的图片指纹，建立该图片的图片指纹与该图片的图片特征的映射。8.如权利要求7所述的方法，其特征在于，根据相匹配的已有图片特征确定所述待检测图片的可匹配对象包括：确定与所述待检测图片的图片特征匹配的图片特征对应的图片指纹；将所述图片指纹对应的图片作为所述待检测图片的可匹配对象。9.如权利要求1所述的方法，其特征在于，根据所述待检测图片的可匹配对象确定所述待检测图片的风险检测结果包括：将所述可匹配对象的风险检测结果作为所述待检测图片的风险检测结果。10.如权利要求1至6中任一项所述的方法，其特征在于，所述方法还包括：根据风险检测结果对所述待检测图片进行管控。11.如权利要求10所述的方法，其特征在于，所述管控包括拦截所述待检测图片的传播。12.一种图片风险检测装置，其特征在于，包括匹配模块、风险检测结果确定模块以及存库模块；匹配模块，用于对任意或指定的待检测图片，确定所述待检测图片的图片特征是否与图片特征库中的已有图片特征匹配；若是，则所述匹配模块根据相匹配的已有图片特征确定所述待检测图片的可匹配对象，所述风险检测结果确定模块根据所述可匹配对象确定所述待检测图片的风险检测结果；若否，则所述存库模块将所述待检测图片的图片特征加入图片特征库，...

【专利技术属性】
技术研发人员：李海亮，
申请(专利权)人：阿里巴巴集团控股有限公司，
类型：发明
国别省市：开曼群岛,KY