扰动生成模型的训练方法和装置制造方法及图纸

本公开的实施例公开了扰动生成模型的训练方法和装置。该方法的一具体实施方式包括：获取训练数据集，其中，训练数据集中的训练数据包括原始图像和原始标签；获取初始扰动生成模型和目标函数，其中，目标函数的优化目标包括最小化损失函数，损失函数的优化目标包括最大化扰动损失，扰动损失表示扰动图像的输出标签和对应的原始标签之间的差异，扰动图像基于对原始图像添加扰动生成；利用训练数据集和目标函数，对扰动生成模型进行训练，得到训练完成的扰动生成模型。该实施方式实现了一种新的扰动生成方法，以利用生成的扰动避免图像被对抗训练学习。抗训练学习。抗训练学习。

【技术实现步骤摘要】
扰动生成模型的训练方法和装置


[0001]本公开的实施例涉及计算机
，具体涉及扰动生成模型的训练方法和装置。

技术介绍

[0002]当前网络上存在海量可以随意访问的图像数据，这些图像数据(如人脸图像等)可能会被采集并用于神经网络模型的训练。许多情况下，对网络上的图像数据的采集并没有预先经过图像数据的上传者的授权，因此对网络上图像数据的随意采集并用于神经网络模型的训练可能会造成潜在的用户隐私泄露的风险。
[0003]针对这一问题，现有技术主要是向图像中加入不易察觉的扰动或噪声(如损失最小化噪声法、对抗性中毒噪声法等)，这些扰动或噪声通常是特殊设计的以使利用添加扰动或噪声后的图像难以训练出质量较高的神经网络模型，从而降低用户隐私泄露的风险。
[0004]但是，现有的这些方法在对抗训练下很容易失效。图像数据采集者通过在添加扰动或噪声后的图像上进行轻微的对抗训练，就可以训练出质量较高的神经网络模型。

技术实现思路

[0005]本公开的实施例提出了扰动生成模型的训练方法和装置。
[0006]第一方面，本公开的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种扰动生成模型的训练方法，包括：获取训练数据集，其中，所述训练数据集中的训练数据包括原始图像和原始标签；获取初始扰动生成模型和目标函数，其中，所述目标函数的优化目标包括最小化损失函数，损失函数的优化目标包括最大化扰动损失，扰动损失表示扰动图像的输出标签和对应的原始标签之间的差异，扰动图像基于对原始图像添加扰动生成；利用所述训练数据集和目标函数，对所述扰动生成模型进行训练，得到训练完成的扰动生成模型。2.根据权利要求1所述的方法，其中，所述扰动图像通过如下步骤生成：对原始图像添加第一扰动，得到第一图像；对所述第一图像进行数据增强，得到增强图像；根据所述增强图像，生成扰动图像。3.根据权利要求2所述的方法，其中，所述根据所述增强图像，生成扰动图像，包括：对所述增强图像添加第二扰动，得到扰动图像。4.根据权利要求3所述的方法，其中，所述数据增强为随机数据增强。5.根据权利要求4所述的方法，其中，所述目标函数的优化目标还包括最小化所述最大化扰动损失的期望。6.根据权利要求1
‑
5之一所述的方法，其中，所述利用所述训练数据集和目标函数，对所述扰动生成模型进行训练，包括：利用投影梯度法对所述目标函数进行优化，确定使得损失函数最小的扰动；根据所确定的扰动更新所述初始扰动生成模型的参数。7.一种图像处理方法，包括：获取原始图像集；对于所述原始图像集中的原始图像，执行如下处理步骤：利用预先训练的扰动生成模型确定该原始图像对应的目标扰动，其中，所述扰动生成模型的训练数据集...

【专利技术属性】
技术研发人员：傅少鹏，何凤翔，沈力，陶大程，
申请(专利权)人：京东科技信息技术有限公司，
类型：发明
国别省市：