对抗样本防御方法、装置、车辆和存储介质制造方法及图纸

本发明专利技术涉及一种对抗样本防御方法、装置、车辆和存储介质。对抗样本防御方法包括：根据训练数据和训练数据对应的标签数据生成训练用对抗样本；将训练用对抗样本输入预先设置的深度学习模型训练得到第一去噪模型；将原始数据输入第一去噪模型中去除与标签数据对应的特定目标攻击信息，得到对抗样本防御结果。由于本申请提供的对抗样本防御方法将训练数据和标签数据混合后得到的训练用对抗样本输入深度学习模型进行训练，训练后得到的第一去噪模型对于标签数据对应的特定目标攻击信息的防御能力得到显著提升，当原始数据进入目标识别装置前，去噪模型能够快速识别针对特定目标的攻击信息并有效去除，提高了对抗样本防御能力。力。力。

【技术实现步骤摘要】
对抗样本防御方法、装置、车辆和存储介质


[0001]本专利技术涉及图像处理
，具体涉及一种对抗样本防御方法、装置、车辆和存储介质。

技术介绍

[0002]随着计算机硬件技术的提高和大数据时代的到来，深度学习领域发展迅速，在自动驾驶和目标识别领域取得重大突破。但是，现有用于图像处理的深度学习模型容易受到对抗样本的攻击，难以被人肉眼识别的扰动使模型对图像预测的标签发生混线与错误，进而影响模型对图像的判断。
[0003]针对上述问题，现有技术提供多种对抗样本防御方法，如通过对抗样本防御模型对输入数据进行预先处理，排除输入数据中的干扰后再输入数据重建模型中恢复图像的结构细节，但是这种方法中的对抗样本防御模型没有考虑到针对一些使用场景中的特定目标的对抗样本攻击训练，当输入数据存在恶意针对特定目标的对抗样本时，对抗样本防御模型的防御能力较弱。

技术实现思路

[0004]本专利技术的目的之一在于提供一种对抗样本防御方法，以解决现有技术中对抗样本防御模型针对特定目标防御能力弱的问题；目的之二在于提供一种对抗样本防御装置；目的之三在于提供一种能够实现本申请提供的对抗样本防御方法的车辆；目的之四在于提供一种能够实现本申请提供的对抗样本防御方法的存储介质。
[0005]为了实现上述目的，本专利技术采用的技术方案如下：
[0006]本专利技术提供一种对抗样本防御方法，包括：
[0007]根据训练数据和所述训练数据对应的标签数据生成训练用对抗样本；
[0008]将所述训练用对抗样本输入预先设置的深度学习模型训练得到第一去噪模型；
[0009]将原始数据输入所述第一去噪模型中去除与所述标签数据对应的特定目标攻击信息，得到对抗样本防御结果。
[0010]根据上述技术手段，训练后得到的第一去噪模型对于标签数据对应的特定目标攻击信息的防御能力得到显著提升，当原始数据进入目标识别装置前，去噪模型能够快速识别针对特定目标的攻击信息并有效去除，提高了对抗样本防御能力。
[0011]进一步，本申请提供的对抗样本防御方法还包括：
[0012]将所述标签数据输入映射网络中生成特定目标隐式变量；
[0013]根据所述特定目标隐式变量和所述训练数据生成所述训练用对抗样本。
[0014]根据上述技术手段，由于本申请提供的对抗样本防御方法中标签数据输入映射网络中生成特定目标隐式变量后再与训练数据连接，处理后的训练用对抗样本同时携带标签数据和训练数据的特征，增强了第一去噪模型的对抗样本防御能力。
[0015]进一步，本申请提供的对抗样本防御方法还包括：
[0016]对所述训练图像进行归一化处理；
[0017]对所述标签数据进行独热编码处理。
[0018]根据上述技术手段，由于在生成训练用对抗样本前进行预处理，排除了训练数据本身差异造成的噪声对去噪模型训练时的干扰，提高了去噪模型收敛速度。
[0019]进一步，本申请提供的对抗样本防御方法还包括：
[0020]将所述特定目标隐式变量和所述训练数据进行连接处理获取连接结果；
[0021]将所述连接结果进行数据截断处理获取所述训练用对抗样本。
[0022]根据上述技术手段，由于本申请提供的对抗样本防御方法将连接结果进行数据截断处理，训练用对抗样本满足图像的要求，扩展了本申请对抗样本防御方法的应用领域
[0023]进一步，本申请提供的对抗样本防御方法还包括：
[0024]将所述训练用对抗样本输入所述深度学习模型中获取所述训练用对抗样本对应的第一还原对抗干扰；
[0025]根据所述第一还原对抗干扰对所述训练用对抗样本进行还原，得到第一还原后训练样本；
[0026]将所述第一还原后训练样本输入预先设置的目标检测模型中进行损失函数计算；
[0027]根据所述损失函数计算的结果调整所述深度学习模型的参数获取所述第一去噪模型。
[0028]根据上述技术手段，由于本申请提供的对抗样本防御方法中根据现有已经训练好的目标检测模型检测第一去噪模型的训练结果，简化了第一去噪模型去噪能力评估动作，提高了第一去噪模型训练效率。
[0029]进一步，本申请提供的对抗样本防御方法还包括：
[0030]对所述第一还原对抗干扰进行高斯平滑滤波处理，获取所述训练用对抗样本对应的第二还原干扰；
[0031]根据所述第二还原对抗干扰对所述训练用对抗样本进行还原，得到第二还原后训练样本；
[0032]将所述第二还原后训练样本输入预先设置的目标检测模型中进行损失函数计算；
[0033]根据所述损失函数计算的结果调整所述深度学习模型的参数获取第二去噪模型。
[0034]根据上述技术手段，由于本申请对深度学习模型还原后的图像进行平滑处理，过滤了不必要的噪声，加快了模型收敛速度，提高了模型训练效率。
[0035]进一步，本申请提供的对抗样本防御方法还包括：
[0036]将所述第一还原后训练样本输入所述目标检测模型中进行分类损失函数计算；
[0037]将所述第一还原后训练样本输入所述目标检测模型中进行置信度损失函数计算。
[0038]根据上述技术手段，由于本申请提供的对抗样本防御方法中模型训练时损失函数的计算同时考虑到分类损失和置信度损失，提高了第一去噪模型的去噪效果，进一步提升了本申请面对对抗样本攻击时的防御能力。
[0039]本专利技术还提供一种对抗样本防御装置，包括：
[0040]训练样本生成模块，用于根据训练图像和所述训练图像对应的标签数据生成训练用对抗样本；
[0041]去噪模型训练模块，用于将所述训练用对抗样本输入预先设置的深度学习模型训
练得到所述去噪模型；
[0042]样本防御模块，用于将原始图像输入所述去噪模型中去除与所述标签数据对应的特定目标攻击信息，得到对抗样本防御结果。
[0043]本专利技术还提供一种车辆，包括：
[0044]至少一个处理器；以及，
[0045]与至少一个处理器通信连接的存储器；其中，
[0046]存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够实现以上所述的对抗样本防御方法。
[0047]本专利技术还提供一种计算机可读存储介质，存储有计算机程序，计算机程序被处理器执行时能够实现以上所述的对抗样本防御方法。
[0048]本专利技术的有益效果：
[0049]本专利技术提供的技术方案将训练数据和标签数据混合后得到的训练用对抗样本输入深度学习模型进行训练，训练后得到的第一去噪模型对于标签数据对应的特定目标攻击信息的防御能力得到显著提升，当原始数据进入目标识别装置前，去噪模型能够快速识别针对特定目标的攻击信息并有效去除，提高了对抗样本防御能力。
附图说明
[0050]一个或多个实施例通过与之对应的附图中的图片进行示例性说明，这些示例性说明并不构成对实施例的限定，附图本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种对抗样本防御方法，其特征在于，所述方法包括：根据训练数据和所述训练数据对应的标签数据生成训练用对抗样本；将所述训练用对抗样本输入预先设置的深度学习模型训练得到第一去噪模型；将原始数据输入所述第一去噪模型中去除与所述标签数据对应的特定目标攻击信息，得到对抗样本防御结果。2.根据权利要求1所述的方法，其特征在于，所述根据训练数据和所述训练数据对应的标签数据生成训练用对抗样本包括：将所述标签数据输入映射网络中生成特定目标隐式变量；根据所述特定目标隐式变量和所述训练数据生成所述训练用对抗样本。3.根据权利要求2所述的方法，其特征在于，所述训练数据包括训练图像，所述将所述标签数据输入映射网络中生成特定目标隐式变量之前，还包括：对所述训练图像进行归一化处理；对所述标签数据进行独热编码处理。4.根据权利要求3所述的方法，其特征在于，所述根据所述特定目标隐式变量和所述训练数据生成所述训练用对抗样本包括：将所述特定目标隐式变量和所述训练数据进行连接处理获取连接结果；将所述连接结果进行数据截断处理获取所述训练用对抗样本。5.根据权利要求1所述的方法，其特征在于，所述将所述训练用对抗样本输入预先设置的深度学习模型训练得到第一去噪模型包括：将所述训练用对抗样本输入所述深度学习模型中获取所述训练用对抗样本对应的第一还原对抗干扰；根据所述第一还原对抗干扰对所述训练用对抗样本进行还原，得到第一还原后训练样本；将所述第一还原后训练样本输入预先设置的目标检测模型中进行损失函数计算；根据所述损失函数计算的结果调整所述深度学习模型的参数获取所述第一去噪模型。6.根据权利要求5所述的方法，其特征在于，所述将所述训练用对抗样本输入所述深度学习模型中获取所述训练用对抗样...

【专利技术属性】
技术研发人员：李翔，江天，
申请(专利权)人：重庆长安汽车股份有限公司，
类型：发明
国别省市：