一种人脸识别呈现攻击的检测系统技术方案

本发明专利技术提出了一种人脸识别呈现攻击的检测系统，涉及人脸识别安全技术领域。该系统通过人脸图像信息采集前端接收用户的人脸识别请求的同时采集3D人脸信息、活体信息及环境信息等人脸多维图像信息，可以采集到更复杂的人脸数据，再通过人脸安全检测和识别后端对多维人脸图像信息进行异常检测和过滤处理可以有效防止模型数据投毒的攻击；在基于人脸多维图像信息进行人脸识别时对调用的人脸识别模型进行黑盒检测和白盒检测的安全检测，可以验证模型的正确性，防止模型用错或模型被攻击者窃取更改、破解后用来欺骗、攻击系统，提高人脸识别模型的安全性；且通过系统监测模块对人脸识别全进行生命周期的安全监测管理，进一步保障人脸识别系统的安全性。人脸识别系统的安全性。人脸识别系统的安全性。

【技术实现步骤摘要】
一种人脸识别呈现攻击的检测系统


[0001]本专利技术人脸识别安全
，具体而言，涉及一种人脸识别呈现攻击的检测系统。

技术介绍

[0002]随着物联网与人工智能技术的交互融合发展，人脸识别应用的产业化也呈现井喷式的发展趋势。近几年，人脸识别应用已经逐步超过指纹识别，成为生物识别的主导技术，与其他身份鉴别方法相比，人脸识别具有直接、友好、方便等优点，其应用前景非常广阔，覆盖了智能安防、金融交易、公共交通、营销零售、医疗教育等多个行业领域，人脸支付、人脸开卡、人脸登录、VIP人脸识别、人脸签到、人脸考勤、人脸闸机、安防监控等应用逐渐遍布我们的生活。
[0003]但是人脸识别在为科技进步和生活水平提高带来显著推动的同时，越来越多潜藏的风险威胁也逐渐暴露出来，原因主要在于人脸识别模型在设计时并未多角度考虑攻击者的呈现攻击而暴露出大量的安全问题，导致数据泄露、信息篡改甚至财产损失等严重的应用安全，呈现攻击常见的有模型数据投毒、模型窃取后进行更改和置换、人脸识别系统容易被二维或三维的生物呈现欺骗和攻击等等，人脸识别的安全性仍有待提高。

技术实现思路

[0004]本专利技术的目的在于提供一种人脸识别呈现攻击的检测系统，通过采集多维的人脸图像信息并进行异常检测和过滤可以有效防止模型数据投毒的攻击，并通过黑盒检测和白盒检测可以验证人脸识别模型的正确性，防止模型用错或模型被攻击者窃取更改、逆向破解后用来欺骗、攻击系统，从而提高人脸识别模型的安全性。
[0005]本专利技术的实施例是这样实现的：/>[0006]第一方面，本申请实施例提供一种人脸识别呈现攻击的检测系统，包括：
[0007]人脸图像信息采集前端，用于接收用户的人脸识别请求并通过采集设备获取人脸多维图像信息，所述人脸多维图像信息包括3D人脸信息、活体信息及环境信息；
[0008]安全传输模块，用于将所述人脸图像信息采集前端获取的人脸多维图像信息传输到人脸安全检测和识别后端；
[0009]人脸安全检测和识别后端，用于调用预训练的人脸识别模型，并对预训练的人脸识别模型进行黑盒检测和白盒检测的安全检测，将通过安全检测的人脸识别模型对所述人脸多维图像信息进行人脸识别，得到人脸识别结果；
[0010]系统监测模块，用于对所述人脸图像信息采集前端、所述安全传输模块、所述人脸安全检测和识别后端及三者之间的通信进行实时安全监测。
[0011]在本专利技术的一些实施例中，所述3D人脸信息包括通过3D摄像头采集的RGBD深度人脸图像信息，所述活体信息包括人脸的动作信息，所述环境信息包括人脸的位置信息及光影信息。
[0012]在本专利技术的一些实施例中，所述人脸安全检测和识别后端包括：
[0013]模型调用模块，用于从本地或远程调用预先训练好的人脸识别神经网络模型；
[0014]模型安全检测模块，用于对所述模型调用模块调用的人脸识别神经网络模型进行黑盒检测和白盒检测；
[0015]人脸识别模块，用于使用黑盒检测和白盒检测均通过的人脸识别模型对人脸多维图像信息进行人脸识别，并返回人脸识别结果。
[0016]在本专利技术的一些实施例中，所述模型安全检测模块具体包括黑盒检测子模块，所述黑盒检测子模块用于生成黑盒检测数据集并通过黑盒检测数据集对调用的人脸识别神经网络模型进行黑盒检测，并根据黑盒水印检测的精度判断模型的黑盒安全检测是否通过。
[0017]在本专利技术的一些实施例中，所述模型安全检测模块具体还包括白盒检测子模块，所述白盒检测子模块用于将白盒水印嵌入参数嵌入到调用的人脸识别神经网络模型，然后计算出所述人脸识别神经网络模型的白盒水印私有参数，将计算得到的白盒水印私有参数和预设的白盒水印私有参数进行对比，根据对比结果判断模型的白盒安全检测是否通过。
[0018]在本专利技术的一些实施例中，所述人脸安全检测和识别后端具体还包括用于对人脸图像信息采集前端获取的人脸多维图像信息进行检测和过滤的异常信息检测过滤模块。
[0019]在本专利技术的一些实施例中，所述系统监测模块通过动态机器学习规则对所述人脸图像信息采集前端、所述安全传输模块、所述人脸安全检测和识别后端及三者之间的网络通信行为进行实时检测分析，实现人脸识别全生命周期的安全监测管理。
[0020]相对于现有技术，本专利技术的实施例至少具有如下优点或有益效果：
[0021]本专利技术的实施例提出了一种人脸识别呈现攻击的检测系统，其通过人脸图像信息采集前端接收用户的人脸识别请求的同时采集3D人脸信息、活体信息及环境信息等人脸多维图像信息，可以采集到更多更细节更复杂的人脸数据，再通过人脸安全检测和识别后端对采集到的多维人脸图像信息进行异常检测和过滤等处理可以有效防止模型数据投毒的攻击，然后在基于人脸多维图像信息进行人脸识别时对调用的人脸识别模型进行黑盒检测和白盒检测的安全检测，可以验证模型的正确性，防止模型用错或模型被攻击者窃取更改、逆向破解后用来欺骗、攻击系统，从而提高人脸识别模型的安全性；且通过系统监测模块对人脸识别全进行生命周期的安全监测管理，检测出人脸识别过程中的异常设备/请求、异常行为，可进一步保障整个人脸识别系统的安全性。
附图说明
[0022]为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本专利技术的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
[0023]图1为本专利技术一种人脸识别呈现攻击的检测系统一实施例的结构示意图；
[0024]图2为本专利技术实施例中人脸安全检测和识别后端一实施例的结构示意图；
[0025]图3为本专利技术实施例中模型安全检测模块一实施例的结构示意图。
[0026]图标：1、人脸图像信息采集前端；2、安全传输模块；3、人脸安全检测和识别后端；
4、系统监测模块；31、模型调用模块；32、模型安全检测模块；33、人脸识别模块；34、异常信息检测过滤模块；321、黑盒检测子模块；322、白盒检测子模块。
具体实施方式
[0027]为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。
[0028]实施例1
[0029]请参阅图1
‑
3，本申请实施例提供了一种人脸识别呈现攻击的检测系统，其通过人脸图像信息采集前端接收用户的人脸识别请求的同时采集3D人脸信息、活体信息及环境信息等人脸多维图像信息，可以采集到更多更细节更复杂的人脸数据，再通过人脸安全检测和识别后端对采集到的多维人脸图像信息进行异常检测和过滤等处理可以有效防止模型数据投毒的攻击，然后在基于人脸多维图像信息进行人脸识别时本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种人脸识别呈现攻击的检测系统，其特征在于，包括：人脸图像信息采集前端，用于接收用户的人脸识别请求并通过采集设备获取人脸多维图像信息，所述人脸多维图像信息包括3D人脸信息、活体信息及环境信息；安全传输模块，用于将所述人脸图像信息采集前端获取的人脸多维图像信息传输到人脸安全检测和识别后端；人脸安全检测和识别后端，用于调用预训练的人脸识别模型，并对预训练的人脸识别模型进行黑盒检测和白盒检测的安全检测，将通过安全检测的人脸识别模型对所述人脸多维图像信息进行人脸识别，得到人脸识别结果；系统监测模块，用于对所述人脸图像信息采集前端、所述安全传输模块、所述人脸安全检测和识别后端及三者之间的通信进行实时安全监测。2.如权利要求1所述的一种人脸识别呈现攻击的检测系统，其特征在于，所述3D人脸信息包括通过3D摄像头采集的RGBD深度人脸图像信息，所述活体信息包括人脸的动作信息，所述环境信息包括人脸的位置信息及光影信息。3.如权利要求2所述的一种人脸识别呈现攻击的检测系统，其特征在于，所述人脸安全检测和识别后端包括：模型调用模块，用于从本地或远程调用预先训练好的人脸识别神经网络模型；模型安全检测模块，用于对所述模型调用模块调用的人脸识别神经网络模型进行黑盒检测和白盒检测；人脸识别模块，用于使用黑盒检测和白盒检测均通过的人脸识...

【专利技术属性】
技术研发人员：刘继顺，张艳，邹春明，张韩，边珊，
申请(专利权)人：上海物盾信息科技有限公司，
类型：发明
国别省市：