对抗攻击的检测方法及系统技术方案

本说明书提供一种对抗攻击的检测方法及系统，获取用户的原始图像后，基于原始图像构建至少一个维度的图模型，并将至少一个维度的图模型输入至图神经网络模型，确定生物特征的关联区域特征，以及将关联区域特征输入至对抗攻击检测模型，得到用户的对抗攻击检测结果。所述方法和系统利用至少一个维度的图模型来建立不同区域特征之间的关联关系，不仅能从原始区域特征的维度进行对抗攻击检测，还能从不同原始区域特征之间的关联关系的维度进行对抗攻击检测，从而丰富对抗攻击检测的输入信息，提高对抗攻击的检测精度。提高对抗攻击的检测精度。提高对抗攻击的检测精度。

【技术实现步骤摘要】
对抗攻击的检测方法及系统


[0001]本说明书涉及人工智能
，尤其涉及一种对抗攻击的检测方法及系统。

技术介绍

[0002]随着互联网的发展，人脸识别也被广泛应用。对抗攻击成为了人脸识别系统主要的安全威胁之一，通过在输入样本中故意添加一些人类肉眼无法察觉的细微的干扰，就能够使得模型输出一个错误的分类结果。由于对抗攻击的攻击pattern(图案)面积小、难以被检测，因此防御对抗攻击的难度较高。
[0003]目前，主要在人脸识别前置检测/预处理环节，或者在人脸识别阶段采用分类模型进行对抗攻击检测。然而，对抗攻击的攻击pattern面积较小、难以被检测，因此防御对抗攻击的难度也就更高。
[0004]综上，需要提供一种能够提高对抗攻击的检测性能的方式。

技术实现思路

[0005]本说明书提供一种对抗攻击的检测方法及系统，能够提高对抗攻击的检测性能。
[0006]第一方面，本说明书提供一种对抗攻击的检测方法，获取用户的原始图像，所述原始图像中包括所述用户的生物特征；基于所述原始图像构建至少一个维度的图模型，所述图模型包括所述生物特征不同区域之间的关联关系；将至少一个维度的所述图模型输入至图神经网络模型，确定所述生物特征的关联区域特征；以及将所述关联区域特征输入至对抗攻击检测模型，得到所述用户的对抗攻击检测结果。
[0007]在一些实施例中，所述基于所述原始图像构建至少一个维度的图模型，包括：将所述原始图像输入至特征提取模型，得到所述生物特征对应的多个原始区域特征；在所述至少一个维度中的每个维度下，对所述多个原始区域特征中存在关联关系的至少部分区域特征建立连接，得到对应的所述图模型；以及将所述至少一个维度的图模型中相同的原始区域特征进行跨维度连接。
[0008]在一些实施例中，所述至少一个维度的所述图模型包括邻域图模型、关键点图模型以及显著性区域图模型中的至少一个。
[0009]在一些实施例中，所述邻域图模型采用如下方法步骤确定：以所述多个原始区域特征中每个原始区域特征作为目标邻域节点，并将相邻的原始区域特征与所述目标邻域节点进行连接。
[0010]在一些实施例中，所述关键点图模型采用如下方法步骤确定：以所述多个原始区域特征中表征生物特征关键点的原始区域特征作为目标关键节点，并将相似度大于预设的相似度阈值的所述目标关键节点进行连接。
[0011]在一些实施例中，所述显著性区域图模型采用如下方法步骤确定：确定所述多个原始区域特征对应的多个显著性，所述显著性表征对所述原始区域特征的关注度的大小；确定所述多个原始区域特征中，显著性大于预设的显著性阈值的原始区域特征作为显著性
节点；以及将所述显著性节点两两建立连接。
[0012]在一些实施例中，所述特征提取模型采用如下方法步骤训练得到：获取训练对象的生物特征的第一图像样本；采用预设特征提取网络对所述第一图像样本对应的多个图像区域进行特征提取，得到所述多个图像区域对应的多个特征图谱及对应的第一损失信息，所述第一损失信息表征所述第一图像样本对应的训练对象的训练身份类别与标注身份类别之间的差异；以及基于所述第一损失信息对所述预设特征提取网络进行收敛，直至训练结束，得到所述特征提取模型。在一些实施例中，所述图神经网络模型采用如下方法步骤训练得到：获取训练对象的生物特征的第二图像样本；将所述第二图像样本输入至所述特征提取模型，得到所述第二图像样本对应的多个原始区域特征样本；基于所述多个原始区域特征样本，构建所述第二图像样本对应的至少一个维度的图模型样本；将所述至少一个维度的图模型输入至预设图神经网络，得到所述生物特征的关联区域特征样本以及对应的第二损失信息；基于所述第二损失信息对所述预设图神经网络进行收敛，直至训练结束，得到所述图神经网络模型。
[0013]在一些实施例中，所述预设图神经网络的网络结构与跨层次连接的至少一个维度的图模型的结构相同，所述第二损失信息采用如下方法步骤得到：基于所述预设图神经网络根据所述多个原始区域特征样本输出的多个新的区域特征样本进行对抗攻击分类，得到所述第二图像样本对应的多个训练对抗攻击类别；基于所述第二图像样本对应的标注对抗攻击类别与所述多个训练对抗攻击类别之间的差异，确定多个对抗攻击分类损失信息；以及基于所述多个对抗攻击分类损失信息的加权和，得到所述第二损失信息。
[0014]在一些实施例中，所述对抗攻击检测模型采用如下方法步骤训练得到：获取训练对象的生物特征的第三图像样本；基于所述第三图像样本构建跨维度连接的至少一个维度的图模型样本；将所述第三图像样本对应的至少一个维度的图模型样本输入至所述图神经网络模型，得到所述第三图像样本对应的关联区域特征样本；将所述第三图像样本对应的关联区域特征样本输入至预设对抗攻击检测网络，得到所述第三图像样本对应的训练对抗攻击分类及对应的第三损失信息，所述第三损失信息表征所述第三图像样本对应的所述训练对抗攻击类别与标注对抗攻击类别之间的差异；以及基于所述第三损失信息对所述预设对抗攻击检测网络进行收敛，直至训练结束，得到所述对抗攻击检测模型。
[0015]第二方面，本说明书还提供一种对抗攻击的检测系统，包括：至少一个存储介质，存储有至少一个指令集，用于进行对抗攻击的检测；以及至少一个处理器，同所述至少一个存储介质通信连接，其中，当所述对抗攻击的检测系统运行时，所述至少一个处理器读取所述至少一个指令集，并且根据所述至少一个指令集的指示执行第一方面任一项所述的方法。
[0016]由以上技术方案可知，本说明书提供的对抗攻击的检测方法及系统，获取包括用户的生物特征的原始图像后，基于原始图像构建至少一个维度的图模型，图模型包括生物特征不同区域之间的关联关系，并将至少一个维度的图模型输入至图神经网络模型，确定生物特征的关联区域特征，以及将关联区域特征输入至对抗攻击检测模型，得到用户的对抗攻击检测结果。由于该方案中采用了至少一个维度的图模型，从不同的角度构建了图模型，构建了原始区域特征之间的关联关系，丰富了对抗攻击检测模型的输入信息，不仅能够从原始区域特征进行对抗攻击检测，还能从原始区域特征之间的关联关系进行对抗攻击检
测，从而能够提升对抗攻击的性能和检测精度。
[0017]本说明书提供的对抗攻击的检测方法及系统的其他功能将在以下说明中部分列出。根据描述，以下数字和示例介绍的内容将对那些本领域的普通技术人员显而易见。本说明书提供的对抗攻击的检测方法及系统的创造性方面可以通过实践或使用下面详细示例中所述的方法、装置和组合得到充分解释。
附图说明
[0018]为了更清楚地说明本说明书实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0019]图1示出了根据本说明书的实施例提供的一种对抗攻击的检测系统的应用场景示意图；
[0020]图2示出本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种对抗攻击的检测方法，包括：获取用户的原始图像，所述原始图像中包括所述用户的生物特征；基于所述原始图像构建至少一个维度的图模型，所述图模型包括所述生物特征不同区域之间的关联关系；将至少一个维度的所述图模型输入至图神经网络模型，确定所述生物特征的关联区域特征；以及将所述关联区域特征输入至对抗攻击检测模型，得到所述用户的对抗攻击检测结果。2.根据权利要求1所述的方法，其中，所述基于所述原始图像构建至少一个维度的图模型，包括：将所述原始图像输入至特征提取模型，得到所述生物特征对应的多个原始区域特征；在所述至少一个维度中的每个维度下，对所述多个原始区域特征中存在关联关系的至少部分区域特征建立连接，得到对应的所述图模型；以及将所述至少一个维度的图模型中相同的原始区域特征进行跨维度连接。3.根据权利要求2所述的方法，其中，所述至少一个维度的所述图模型包括邻域图模型、关键点图模型以及显著性区域图模型中的至少一个。4.根据权利要求3所述的方法，其中，所述邻域图模型采用如下方法步骤确定：以所述多个原始区域特征中每个原始区域特征作为目标邻域节点，并将相邻的原始区域特征与所述目标邻域节点进行连接。5.根据权利要求3所述的方法，其中，所述关键点图模型采用如下方法步骤确定：以所述多个原始区域特征中表征生物特征关键点的原始区域特征作为目标关键节点，并将相似度大于预设的相似度阈值的所述目标关键节点进行连接。6.根据权利要求3所述的方法，其中，所述显著性区域图模型采用如下方法步骤确定：确定所述多个原始区域特征对应的多个显著性，所述显著性表征对所述原始区域特征的关注度的大小；确定所述多个原始区域特征中，显著性大于预设的显著性阈值的原始区域特征作为显著性节点；以及将所述显著性节点两两建立连接。7.根据权利要求2所述的方法，其中，所述特征提取模型采用如下方法步骤训练得到：获取训练对象的生物特征的第一图像样本；采用预设特征提取网络对所述第一图像样本对应的多个图像区域进行特征提取，得到所述多个图像区域对应的多个特征图谱及对应的第一损失信息，所述第一损失信息表征所述第一图像样本对应的训练对象的训练身份类别与标注身份类别之间的差异；以及基于所述第一损失信息对所述预设特征提取网络进行收敛，直至训练结束，得到所述特征提取模型。8.根据权利要求...

【专利技术属性】
技术研发人员：曹佳炯，丁菁汀，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：