扰动人脸图像生成方法、装置、电子设备及存储介质制造方法及图纸

本说明书实施例提供了扰动人脸图像生成方法、装置、电子设备及存储介质，扰动人脸图像生成方法包括：获取初始人脸图像，初始人脸图像包括初始属性标注；对初始人脸图像、初始属性标注以及目标属性标注，进行编码处理，得到初始特征数据和目标特征数据；目标属性标注是根据预设的目标人脸图像修改初始人脸图像的初始属性标注中的至少一个待编辑元素所得到；根据初始插值系数，对初始特征数据和目标特征数据进行插值处理，生成初始扰动人脸图像；生成中间扰动人脸图像；重复执行生成中间扰动人脸图像的步骤，直至满足预设迭代轮数，将中间扰动人脸图像确定为目标扰动人脸图像，以此，生成可检测系统安全隐患的扰动人脸图像，提高系统安全性。系统安全性。系统安全性。

【技术实现步骤摘要】
扰动人脸图像生成方法、装置、电子设备及存储介质


[0001]本申请涉及数据处理
，尤其涉及一种扰动人脸图像生成方法、装置、电子设备及存储介质。

技术介绍

[0002]随着电子技术的发展，基于深度网络模型的人脸识别技术的使用越来越广泛。人脸识别技术为用户带来很多便利，操作友好性很高，用户无需记忆一些用于证明自己身份的密码，即可实现身份验证。深度网络模型的人脸识别系统可能会受到一些微小扰动，使得模型识别结果急剧下降。若人脸识别系统识别不准确，可能带来极大的安全隐患。

技术实现思路

[0003]本申请实施例提供了一种扰动人脸图像生成方法、装置、电子设备及存储介质，以生成可用于检测系统安全隐患的扰动人脸图像，提高系统安全性。
[0004]第一方面，本申请实施例提供了一种扰动人脸图像生成方法，包括：
[0005]获取初始人脸图像，所述初始人脸图像包括初始属性标注；
[0006]对所述初始人脸图像、所述初始属性标注以及目标属性标注，进行编码处理，得到初始特征数据和目标特征数据；所述目标属性标注是根据预设的目标人脸图像修改所述初始人脸图像的初始属性标注中的至少一个待编辑元素所得到；
[0007]根据初始插值系数，对所述初始特征数据和所述目标特征数据进行插值处理，生成初始扰动人脸图像；
[0008]生成中间扰动人脸图像，包括：根据所述初始扰动人脸图像，多个预设的人脸识别模型以及对应的损失函数，对所述初始插值系数进行迭代处理，得到中间插值系数；根据所述中间插值系数，对所述初始特征数据和所述目标特征数据进行插值处理，生成中间扰动人脸图像，所述中间扰动人脸图像为下一轮迭代处理的初始扰动人脸图像；所述中间插值系数为下一轮迭代处理的初始插值系数；
[0009]重复执行生成中间扰动人脸图像的步骤，直至满足预设迭代轮数，将所述中间扰动人脸图像确定为目标扰动人脸图像。
[0010]第二方面，本申请实施例提供了一种风险检测方法，包括：
[0011]获取如第一方面所述的扰动人脸图像生成方法生成的目标扰动人脸图像；
[0012]通过所述目标扰动人脸图像对待风险检测的目标人脸识别系统进行黑盒攻击；
[0013]在黑盒攻击的结果为成功的情况下，确定所述目标人脸识别系统存在安全风险。
[0014]第三方面，本申请实施例提供了一种扰动人脸图像生成装置，包括：
[0015]参数获取模块，用于获取初始人脸图像，所述初始人脸图像包括初始属性标注；
[0016]图像编码模块，用于对所述初始人脸图像、所述初始属性标注以及目标属性标注，进行编码处理，得到初始特征数据和目标特征数据；所述目标属性标注是根据预设的目标人脸图像修改所述初始人脸图像的初始属性标注中的至少一个待编辑元素所得到；
[0017]第一图像生成模块，用于根据初始插值系数，对所述初始特征数据和所述目标特征数据进行插值处理，生成初始扰动人脸图像；
[0018]参数迭代模块，用于生成中间扰动人脸图像，包括：根据所述初始扰动人脸图像，多个预设的人脸识别模型以及对应的损失函数，对所述初始插值系数进行迭代处理，得到中间插值系数；根据所述中间插值系数，对所述初始特征数据和所述目标特征数据进行插值处理，生成中间扰动人脸图像，所述中间扰动人脸图像为下一轮迭代处理的初始扰动人脸图像；所述中间插值系数为下一轮迭代处理的初始插值系数；
[0019]第二图像生成模块，用于重复执行生成中间扰动人脸图像的步骤，直至满足预设迭代轮数，将所述中间扰动人脸图像确定为目标扰动人脸图像。
[0020]第四方面，本申请实施例提供了一种风险检测装置，包括：
[0021]图像获取模块，用于获取如第一方面所述的扰动人脸图像生成方法生成的目标扰动人脸图像；
[0022]系统攻击模块，用于通过所述目标扰动人脸图像对待风险检测的目标人脸识别系统进行黑盒攻击；
[0023]风险确定模块，用于在黑盒攻击的结果为成功的情况下，确定所述目标人脸识别系统存在安全风险。
[0024]第五方面，本申请实施例提供了一种电子设备，包括：处理器；以及，被配置为存储计算机可执行指令的存储器，所述计算机可执行指令在被执行时使所述处理器执行第一方面所述的扰动人脸图像生成方法或者如第二方面所述的风险检测方法。
[0025]第六方面，本申请实施例提供了一种计算机可读存储介质，用于存储计算机可执行指令，所述计算机可执行指令在被处理器执行时实现如第一方面所述的扰动人脸图像生成方法或者如第二方面所述的风险检测方法。
[0026]可以看出，在本申请实施例中，获取初始人脸图像，初始人脸图像包括初始属性标注；对初始人脸图像、初始属性标注以及目标属性标注，进行编码处理，得到初始特征数据和目标特征数据；目标属性标注是根据预设的目标人脸图像修改初始人脸图像的初始属性标注中的至少一个待编辑元素所得到；根据初始插值系数，对初始特征数据和目标特征数据进行插值处理，生成初始扰动人脸图像；生成中间扰动人脸图像，包括：根据初始扰动人脸图像，多个预设的人脸识别模型以及对应的损失函数，对初始插值系数进行迭代处理，得到中间插值系数；根据中间插值系数，对初始特征数据和目标特征数据进行插值处理，生成中间扰动人脸图像，中间扰动人脸图像为下一轮迭代处理的初始扰动人脸图像；中间插值系数为下一轮迭代处理的初始插值系数；重复执行生成中间扰动人脸图像的步骤，直至满足预设迭代轮数，将中间扰动人脸图像确定为目标扰动人脸图像，以此，一方面，初始人脸图像包括初始属性标注，目标属性标注是根据预设的目标人脸图像修改初始人脸图像的初始属性标注中的至少一个待编辑元素所得到，通过修改待编辑元素，可以针对性地生成指定元素被修改的目标扰动人脸图像，提高目标扰动人脸图像的生成效率；又一方面，通过重复执行生成中间扰动人脸图像的步骤，直至满足预设迭代轮数，可以在每轮迭代中对初始插值系数进行迭代处理，以生成新的中间扰动人脸，从而实现对插值系数进行多轮梯度攻击，对插值系数进行每轮梯度攻击的计算量较小，所需的计算时间较短，使得目标扰动人脸图像的生成效率较高；另一方面，通过设置多个预设的人脸识别模型，可以使多个人脸识别
模型的内部结构各不相同，丰富插值系数的适用范围，使得在最终生成的目标扰动人脸图像用于对任意一个需要进行风险检测且内部结构未知的人脸识别系统的黑盒攻击的情况下，黑盒攻击的成功率较高，进而利用该目标扰动人脸图像可以高效地检测该人脸识别系统是否存在安全风险。
附图说明
[0027]为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图；
[0028]图1为本申请实施例提供的一种扰动人脸图像生成方法处理流程图；
[0029]图2为本申请实施例提供的一种扰本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种扰动人脸图像生成方法，其特征在于，包括：获取初始人脸图像，所述初始人脸图像包括初始属性标注；对所述初始人脸图像、所述初始属性标注以及目标属性标注，进行编码处理，得到初始特征数据和目标特征数据；所述目标属性标注是根据预设的目标人脸图像修改所述初始人脸图像的初始属性标注中的至少一个待编辑元素所得到；根据初始插值系数，对所述初始特征数据和所述目标特征数据进行插值处理，生成初始扰动人脸图像；生成中间扰动人脸图像，包括：根据所述初始扰动人脸图像，多个预设的人脸识别模型以及对应的损失函数，对所述初始插值系数进行迭代处理，得到中间插值系数；根据所述中间插值系数，对所述初始特征数据和所述目标特征数据进行插值处理，生成中间扰动人脸图像，所述中间扰动人脸图像为下一轮迭代处理的初始扰动人脸图像；所述中间插值系数为下一轮迭代处理的初始插值系数；重复执行生成中间扰动人脸图像的步骤，直至满足预设迭代轮数，将所述中间扰动人脸图像确定为目标扰动人脸图像。2.根据权利要求1所述的方法，其特征在于，所述根据所述中间插值系数，对所述初始特征数据和所述目标特征数据进行插值处理，生成中间扰动人脸图像，包括：根据中间插值系数，对所述初始特征数据和所述目标特征数据进行插值处理，得到合成特征数据；对所述合成特征数据进行解码处理，生成中间扰动人脸图像。3.根据权利要求1所述的方法，其特征在于，所述多个预设的人脸识别模型包括N个第一人脸识别模型和一个第二人脸识别模型；所述根据所述初始扰动人脸图像，多个预设的人脸识别模型以及对应的损失函数，对所述初始插值系数进行迭代处理，得到中间插值系数，包括：将所述初始扰动人脸图像分别输入每个所述第一人脸识别模型，得到每个所述第一人脸识别模型的损失函数值；对每个所述第一人脸识别模型的损失函数值求和，得到所述N个第一人脸识别模型的损失函数值之和；根据所述损失函数值之和，对所述初始插值系数进行预设数量次第一迭代处理，得到第一插值系数；将第一扰动人脸图像输入所述第二人脸识别模型，得到所述第二人脸识别模型的损失函数值；所述第一扰动人脸图像根据所述初始特征数据、所述目标特征数据以及所述第一插值系数生成；根据所述第二人脸识别模型的损失函数值，对所述第一插值系数进行第二迭代处理，得到第二插值系数；根据所述第二插值系数，确定所述中间插值系数。4.根据权利要求3所述的方法，其特征在于，所述预设数量为K；所述根据所述损失函数值之和，对所述初始插值系数进行预设数量次第一迭代处理，得到第一插值系数，包括：按照预设的第一迭代公式，根据所述初始扰动人脸图像对应的所述N个第一人脸识别模型的损失函数值之和与所述初始插值系数，计算得到插值系数的迭代结果值；
根据所述插值系数的迭代结果值和迭代扰动人脸图像对应的所述N个第一人脸识别模型的损失函数值之和，计算得到下一个迭代结果值；所述迭代扰动人脸图像是根据所述初始特征数据、所述目标特征数据以及所述插值系数的迭代结果值所生成；所述迭代扰动人脸图像对应的所述N个第一人脸识别模型的损失函数值之和是通过将所述迭代扰动人脸图像分别输入每个所述第一人脸识别模型所得到；重复执行所述根据所述插值系数的迭代结果值和迭代扰动人脸图像对应的所述N个第一人脸识别模型的损失函数值之和，计算得到下一个迭代结果值的步骤，直至所述下一个迭代结果值为所述插值系数的第K个迭代结果值，将所述插值系数的第K个迭代结果值确定为所述第一插值系数。5.根据权利要求3所述的方法，其特征在于，所述根据所述第二...

【专利技术属性】
技术研发人员：刘彦宏，蒋宁，吴海英，
申请(专利权)人：马上消费金融股份有限公司，
类型：发明
国别省市：