图像识别模型的安全性检测方法及装置制造方法及图纸

本说明书实施例提供图像识别模型的安全性检测方法及装置，其中所述图像识别模型的安全性检测方法包括：获取初始检测图像；基于预设调整规则处理所述初始检测图像，生成至少一个目标检测图像；将各目标检测图像分别和所述初始检测图像输入至图像识别模型，获得各目标检测图像对应的图像识别结果；在图像识别结果中存在识别成功的情况下，确定所述图像识别模型存在安全性问题。通过本说明书提供的方法，丰富了验证图像识别模型的安全性的方式。丰富了验证图像识别模型的安全性的方式。丰富了验证图像识别模型的安全性的方式。

【技术实现步骤摘要】
图像识别模型的安全性检测方法及装置


[0001]本说明书实施例涉及图像识别
，特别涉及图像识别模型的安全性检测方法。

技术介绍

[0002]随着计算机技术的不断发展，人工智能、计算机视觉等技术也得到了迅猛发展，其中，图像识别是一项重要课题，在图像识别场景下经常会遇到比对两个图像是否相同的问题，例如，在人脸识别场景下，会比对当前采集到的人脸与预先保存的人脸是否一致，从而确定当前的用户是否是真正的用户。
[0003]目前，一些攻击者通常会使用各种方式来对图像比对应用进行攻击，从而达到绕开图像比对应用的检验，例如在人脸识别场景下，通过各种方式攻击人脸识别模型，从而达到以假乱真的效果，而如何模拟攻击者的攻击行为，检验图像比对应用的健壮性，就成为技术开发人员亟待解决的问题。

技术实现思路

[0004]有鉴于此，本说明书实施例提供了图像识别模型的安全性检测方法。本说明书一个或者多个实施例同时涉及图像识别模型的安全性检测装置，一种计算设备，一种计算机可读存储介质以及一种计算机程序，以解决现有技术中存在的技术缺陷。
[0005]根据本说明书实施例的第一方面，提供了一种图像识别模型的安全性检测方法，包括：
[0006]获取初始检测图像；
[0007]基于预设调整规则处理所述初始检测图像，生成至少一个目标检测图像；
[0008]将各目标检测图像分别和所述初始检测图像输入至图像识别模型，获得各目标检测图像对应的图像识别结果；
[0009]在图像识别结果中存在识别成功的情况下，确定所述图像识别模型存在安全性问题。
[0010]根据本说明书实施例的第二方面，提供了一种人脸识别模型的安全性检测方法，包括：
[0011]获取初始人脸图像；
[0012]基于预设调整规则处理所述初始人脸图像，生成至少一个目标人脸图像；
[0013]将各目标人脸图像和所述初始人脸图像输入至人脸识别模型，获得各目标人脸图像对应的人脸识别结果；
[0014]在人脸识别结果中存在识别成功的情况下，确定所述人脸识别模型存在安全性问题。
[0015]根据本说明书实施例的第三方面，提供了一种图像识别模型的安全性检测装置，包括：
[0016]获取模块，被配置为获取初始检测图像；
[0017]生成模块，被配置为基于预设调整规则处理所述初始检测图像，生成至少一个目标检测图像；
[0018]识别模块，被配置为将各目标检测图像分别和所述初始检测图像输入至图像识别模型，获得各目标检测图像对应的图像识别结果；
[0019]确定模块，被配置为在图像识别结果中存在识别成功的情况下，确定所述图像识别模型存在安全性问题。
[0020]根据本说明书实施例的第四方面，提供了一种计算设备，包括：
[0021]存储器和处理器；
[0022]所述存储器用于存储计算机可执行指令，所述处理器用于执行所述计算机可执行指令，该计算机可执行指令被处理器执行时实现上述图像识别模型的安全性检测方法的步骤。
[0023]根据本说明书实施例的第五方面，提供了一种计算机可读存储介质，其存储有计算机可执行指令，该指令被处理器执行时实现上述图像识别模型的安全性检测方法的步骤。
[0024]根据本说明书实施例的第六方面，提供了一种计算机程序，其中，当所述计算机程序在计算机中执行时，令计算机执行上述图像识别模型的安全性检测方法的步骤。
[0025]本说明书提供的图像识别模型的安全性检测方法，包括获取初始检测图像；基于预设调整规则处理所述初始检测图像，生成至少一个目标检测图像；将各目标检测图像分别和所述初始检测图像输入至图像识别模型，获得各目标检测图像对应的图像识别结果；在图像识别结果中存在识别成功的情况下，确定所述图像识别模型存在安全性问题。通过本说明书提供的方法，可以根据多个调整规则处理初始检测图像，从多个维度生成多个数量的目标检测图像，多个维度的目标检测图像可以验证图像识别模型的安全广度，多个数量的目标检测图像可以验证图像识别模型的安全深度，丰富了验证图像识别模型的安全性的方式。
附图说明
[0026]图1是本说明书一个实施例提供的一种图像识别模型的安全性检测方法的流程图；
[0027]图2是本说明书一个实施例提供的人脸认证场景的图像处理示意图；
[0028]图3是本说明书一个实施例提供的人脸认证场景的图像识别模型的安全性检测方法的处理过程流程图；
[0029]图4是本说明书一个实施例提供的人脸识别模型的安全性检测方法的流程图；
[0030]图5是本说明书一个实施例提供的一种图像识别模型的安全性检测装置的结构示意图；
[0031]图6是本说明书一个实施例提供的一种计算设备的结构框图。
具体实施方式
[0032]在下面的描述中阐述了很多具体细节以便于充分理解本说明书。但是本说明书能
够以很多不同于在此描述的其它方式来实施，本领域技术人员可以在不违背本说明书内涵的情况下做类似推广，因此本说明书不受下面公开的具体实施的限制。
[0033]在本说明书一个或多个实施例中使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本说明书一个或多个实施例。在本说明书一个或多个实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本说明书一个或多个实施例中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
[0034]应当理解，尽管在本说明书一个或多个实施例中可能采用术语第一、第二等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本说明书一个或多个实施例范围的情况下，第一也可以被称为第二，类似地，第二也可以被称为第一。取决于语境，如在此所使用的词语“如果”可以被解释成为“在
……
时”或“当
……
时”或“响应于确定”。
[0035]需要说明的是，本说明书所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等)，均为经用户授权或者经过各方充分授权的信息和数据，并且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准，并提供有相应的操作入口，供用户选择授权或者拒绝。
[0036]首先，对本说明书一个或多个实施例涉及的名词术语进行解释。
[0037]健壮性：软件对于规范要求以外的输入情况的处理能力。
[0038]摩尔纹：是一种在数码照相机或者扫描仪等设备上，感光组件出现高频干扰的条纹，是一种会使图片出现彩色的高频率不规则的条纹。
[0039]人脸修图：使用图像编辑工具对包含人脸的原始图片进行处理的过程。
[0040]随着计算机技术的不断发展，人工智能、计算机视觉等技术也得到了迅猛发展，其中本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种图像识别模型的安全性检测方法，包括：获取初始检测图像；基于预设调整规则处理所述初始检测图像，生成至少一个目标检测图像；将各目标检测图像分别和所述初始检测图像输入至图像识别模型，获得各目标检测图像对应的图像识别结果；在图像识别结果中存在识别成功的情况下，确定所述图像识别模型存在安全性问题。2.如权利要求1所述的方法，还包括：根据图像识别结果生成所述安全性问题对应的检测报告。3.如权利要求2所述的方法，根据图像识别结果生成所述安全性问题对应的检测报告，包括：确定图像识别结果为识别成功的待处理目标检测图像；确定所述待处理目标检测图像对应的目标调整规则；基于所述目标调整规则生成所述安全性问题对应的检测报告。4.如权利要求1所述的方法，基于预设调整规则处理所述初始检测图像，生成至少一个目标检测图像，包括：提取所述预设调整规则中的修图规则、模型规则、人工智能规则；基于所述修图规则处理所述初始检测图像，生成修图检测图像；基于所述模型规则处理所述初始检测图像，生成模型检测图像；基于所述人工智能规则处理所述初始检测图像，生成人工智能检测图像；将所述修图检测图像、所述模型检测图像、所述人工智能检测图像确定为目标检测图像。5.如权利要求4所述的方法，基于所述修图规则处理所述初始检测图像，生成修图检测图像，包括：为所述初始检测图像添加图像干扰纹，获得第一修图检测图像；为所述初始检测图像添加镜面干扰信息，获得第二修图检测图像；为所述初始检测图像添加图像干扰框，获得第三修图检测图像；为所述初始检测图像中的目标对象进行修图处理，获得第四修图检测图像；为所述初始检测图像中的目标对象添加畸形干扰信息，获得第五修图检测图像；为所述初始检测图像进行颜色调整，获得第六修图检测图像；根据所述第一修图检测图像、所述第二修图检测图像、所述第三修图检测图像、所述第四修图检测图像、所述第五修图检测图像、所述第六修图检测图像中的至少一项，生成修图检测图像。6.如权利要求4所述的方法，基于所述模型规则处理所述初始检测图像，生成模型检测图像，包括：识别所述初始检测图像中的目标...

【专利技术属性】
技术研发人员：高亭宇，张园超，高嵩，
申请(专利权)人：浙江网商银行股份有限公司，
类型：发明
国别省市：