图像在线处理方法、装置、电子设备和计算机可读介质制造方法及图纸

本公开的实施例公开了图像在线处理方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括：响应于检测到图像输入操作，通过识别模型，确定图像输入操作所指示的目标图像是否为对抗图像，其中，识别模型采用对抗训练得到；响应于确定目标图像不是对抗图像，输出目标图像；通过异常检测模型，对输出的目标图像进行检测，其中，异常检测模型用于检测输入的图像是否为异常图像，基于正向样本图像训练得到；响应于确定目标图像为异常图像，对目标图像进行拦截处理。该实施方式与对抗防御技术有关，通过前后检查相结合，能够保证最大程度地拦截对抗样本。同时，可以尽量减少因防御加固而额外增加的耗时，保证图像的在线处理时效。理时效。理时效。

【技术实现步骤摘要】
图像在线处理方法、装置、电子设备和计算机可读介质


[0001]本公开的实施例涉及对抗防御
，具体涉及图像在线处理方法、装置、电子设备和计算机可读介质。

技术介绍

[0002]近年来的研究表明，基于数据训练得到的AI(Artificial Intelligence，人工智能)模型容易遭受对抗性攻击，导致模型决策出现偏差。对抗性攻击即使用对抗样本对模型进行欺骗。对抗样本一般是指在模型输入样本中添加细微扰动干扰而恶意输入的样本。在不容易被人类察觉的情况下，导致模型做出错误决策。针对模型的对抗样本问题，目前主要以下有三类防御方法：一是输入预处理防御；二是对抗训练；三是特异性防御方法。
[0003]输入预处理一般是在样本输入模型前，对样本进行一定的处理，达到消除样本中的对抗性扰动的目的。对抗训练通常是一种较为直观的对抗样本防御方法，其主要的思路是将对抗样本和正常样本同时作为训练数据对模型进行训练，使得模型具备主动防御对抗攻击的能力。特异性防御方法与以上两类方法的不同之处在于，针对防御的改造与模型的特点相关。这类防御方法一般通过优化模型结构或本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种图像在线处理方法，包括：响应于检测到图像输入操作，通过识别模型，确定所述图像输入操作所指示的目标图像是否为对抗图像，其中，所述识别模型采用对抗训练得到；响应于确定所述目标图像不是对抗图像，输出所述目标图像；通过异常检测模型，对输出的所述目标图像进行检测，其中，所述异常检测模型用于检测输入的图像是否为异常图像，基于正向样本图像训练得到；响应于确定所述目标图像为异常图像，对所述目标图像进行拦截处理。2.根据权利要求1所述的方法，其中，所述方法还包括：将拦截到的所述目标图像作为对抗样本图像，得到对抗样本图像集；基于所述对抗样本图像集，对所述识别模型进行更新。3.根据权利要求2所述的方法，其中，所述基于所述对抗样本图像集，对所述识别模型进行更新，包括：从所述识别模型的历史训练数据中选取部分训练数据，其中，所述历史训练数据中包括历史正向样本图像和历史对抗样本图像；根据所述对抗样本图像集和选取的历史训练数据，采用增量学习方法，对所述识别模型进行更新。4.根据权利要求1所示的方法，其中，所述异常检测模型通过以下方法训练得到：提取正向样本图像的显著图；将提取的显著图作为自编码器的输入，通过半监督的训练方式，对自编码器进行训练，以及将训练完成的自编码器，确定为异常检测模型。5.根据权利要求4所述的方法，其中，所述将提取的显著图作为自编码器的输入，通过半监督的训练方式，对自编码器进行训练包括：对输入的显著图进行编码，得到降维特征；通过对称网络结构，对降维特征进行解码和重建，输出重建显著图；确定输入的显著图与重建显著图之间的距离，以作为损失函数的值，以及根据损失函数的值与预设阈值之间的比较结果，确定自编码器是否训练完成。6.根据权利要求1所述的方法，其中，用于所述识别模型的对抗训练的初始对抗样本图像，通过以下方法得到：根据用于所述识别模型的对抗训练的初始正向样本图像，通过预设攻击算法，生成用于所述识别模型的对抗训练的初始对抗样本图...

【专利技术属性】
技术研发人员：田志成，
申请(专利权)人：北京京东世纪贸易有限公司，
类型：发明
国别省市：