【技术实现步骤摘要】
本公开属于图像分割，尤其涉及一种用于图像分割的对抗样本生成方法及系统。
技术介绍
1、本部分的陈述仅仅是提供了与本公开相关的
技术介绍
信息，不必然构成在先技术。
2、近年来，深度学习发展迅猛，深度神经网络模型越来越多的应用于行人图像处理等领域。可是最近的研究表明深度神经网络模型容易受到对抗样本攻击的影响，szegedy等人首次提出了对抗样本的概念.goodfellow等人证明了对抗样本的出现是由于深度神经网络的高度线性性质：向输入添加微小的扰动，在网络传播过程中，误差会被不断放大，最终导致模型给出错误的输出.对抗样本是目前的一个热门研究领域，被认为是目前主要的安全漏洞。对抗样本的出现极大程度上影响了深度神经网络在一些重要领域应用中的安全问题，如:癌症检测.一旦这些应用遭受到对抗样本的攻击，将会造成严重的事故.
3、专利技术人发现，目前对于对抗样本的研究大多集中在图像分类任务上，但是，在图像分割中的二值分割问题同样会受到对抗样本的攻击，而关于对抗样本对分割模型影响的研究较少，且主要都是利用图像分割模型最后一层的损失函数梯度反向传播来优化对抗扰动，忽略了中间层特征损失，无法获得能够使图像分割性能明显下降的对抗样本，不利于对图像分割模型的弱点和脆弱性的分析。
技术实现思路
1、本公开为了解决上述问题，提供了一种用于图像分割的对抗样本生成方法及系统，所述方案采用基于目标攻击损失、像素级损失、特征激活损失以及分割交叉熵损失四种损失函数的多尺度损失函数对扰动进行优化，通过
2、根据本公开实施例的第一个方面，提供了一种用于图像分割的对抗样本生成方法，包括：
3、获取用于图像分割模型训练的图像数据集，并基于所述图像数据集对预先构建的图像分割网络进行训练；
4、将图像数据集中的原始图像输入预先训练的图像分割网络模型中，获得分割结果；以及，基于图像分割网络模型中多尺度损失函数的梯度生成初始扰动，并将所述初始扰动添加到原始图像中，作为初始对抗样本；
5、将生成的对抗样本输入所述预先训练的图像分割网络中，获得分割结果；以及，基于图像分割网络的中间层和最后一层的特征计算损失函数，通过最小化损失函数对初始扰动进行优化，获得优化后的最优扰动；
6、将最优扰动添加到原始图像中，获得最终的对抗样本。
7、进一步的，所述基于图像分割网络模型中多尺度损失函数的梯度生成扰动，其中，所述多尺度损失函数包括用于计算预测掩码与目标掩码之间差距的目标攻击损失，用于计算图像分割网络模型的网络层中源图像的激活和目标图像的激活之间欧氏距离的特征激活损失，用于计算图像分割网络的输出预测掩码与掩码之间的交叉熵的分割交叉熵损失，以及用于计算对抗样本和原始图像样本之间距离的像素级损失函数。
8、进一步的，基于获得的多尺度损失函数，通过最小化多尺度损失函数，获得初始扰动。
9、进一步的，所述u-net分割网络模型包括编码器和解码器，其中，编码器用于提供来自待分割图像的低分辨率语义信息，解码器利用低层的响应丰富空间信息，在利用多尺度损失函数生成初始扰动时，利用编码器的第三层和解码器的所有层来计算特征激活损失以及分割交叉熵损失。
10、进一步的，所述基于图像分割网络模型中多尺度损失函数的梯度生成扰动，其扰动过程表示如下：
11、
12、其中，clip()用于限制数值范围，im是在第m次迭代中被扰动的图像，αm-1为采用动态扰动乘数的学习率，其定义如下：
13、αm-1＝μ*iou(mt,mm-1)+γ,
14、其中，μ和γ是用来计算最终扰动乘数的超参数，iou为交并比，mt表示目标预测掩码，mm-1表示在第m次迭代的预测掩码。
15、进一步的，所述多尺度损失函数，具体表示如下：
16、l＝λ1ltar+λ2lpix+λ3lf+λ4lc
17、其中，λ1，λ2，λ3，λ4是控制损失函数相对重要程度的超参数，ltar为目标攻击损失，lpix为特征激活损失，lf为分割交叉熵损失，lc为像素级损失函数。
18、进一步的，所述图像分割网络模型采用u-net分割网络模型。
19、根据本公开实施例的第二个方面，提供了一种用于图像分割的对抗样本生成系统，包括：
20、模型训练单元，其用于获取用于图像分割模型训练的图像数据集，并基于所述图像数据集对预先构建的图像分割网络进行训练；
21、扰动获取单元，其用于将图像数据集中的原始图像输入预先训练的图像分割网络模型中，获得分割结果；以及，基于图像分割网络模型中多尺度损失函数的梯度生成初始扰动，并将所述初始扰动添加到原始图像中，作为初始对抗样本；
22、扰动优化单元，其用于将生成的对抗样本输入所述预先训练的图像分割网络中，获得分割结果；以及，基于图像分割网络的中间层和最后一层的特征计算损失函数，通过最小化损失函数对初始扰动进行优化，获得优化后的最优扰动；
23、对抗样本生成单元，其用于将最优扰动添加到原始图像中，获得最终的对抗样本。
24、根据本公开实施例的第三个方面，提供了一种电子设备，包括存储器、处理器及存储在存储器上运行的计算机程序，所述处理器执行所述程序时实现所述的一种用于图像分割的对抗样本生成方法。
25、根据本公开实施例的第四个方面，提供了一种非暂态计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现所述的一种用于图像分割的对抗样本生成方法。
26、与现有技术相比，本公开的有益效果是：
27、(1)本公开提供了一种用于图像分割的对抗样本生成方法及系统，所述方案采用基于目标攻击损失、像素级损失、特征激活损失以及分割交叉熵损失四种损失函数的多尺度损失函数对扰动进行优化，通过多尺度损失函数的梯度不断迭代扰动原始图像，使其最终分割的掩码接近目标掩码，有效提高了预测掩码和目标掩码之间的交并比和像素准确率，降低了对抗样本和原始图像样本之间的l2和l∞距离，提高了视觉感知性且人眼看不出生成的对抗样本跟原始样本之间的区别，获得能够使图像分割性能明显下降的对抗样本，提高了对图像分割模型的弱点和脆弱性分析的可能性。
28、(2)所述方案在基于多尺度损失函数进行扰动优化过程中，引入动态扰动乘数来计算学习率，有效提高了扰动的优化效果。
29、本公开附加方面的优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本公开的实践了解到。
本文档来自技高网...【技术保护点】
1.一种用于图像分割的对抗样本生成方法，其特征在于，包括：
2.如权利要求1所述的一种用于图像分割的对抗样本生成方法，其特征在于，所述基于图像分割网络模型中多尺度损失函数的梯度生成扰动，其中，所述多尺度损失函数包括用于计算预测掩码与目标掩码之间差距的目标攻击损失，用于计算图像分割网络模型的网络层中源图像的激活和目标图像的激活之间欧氏距离的特征激活损失，用于计算图像分割网络的输出预测掩码与掩码之间的交叉熵的分割交叉熵损失，以及用于计算对抗样本和原始图像样本之间距离的像素级损失函数。
3.如权利要求1所述的一种用于图像分割的对抗样本生成方法，其特征在于，基于获得的多尺度损失函数，通过最小化多尺度损失函数，获得初始扰动。
4.如权利要求1所述的一种用于图像分割的对抗样本生成方法，其特征在于，所述U-Net分割网络模型包括编码器和解码器，其中，编码器用于提供来自待分割图像的低分辨率语义信息，解码器利用低层的响应丰富空间信息，在利用多尺度损失函数生成初始扰动时，利用编码器的第三层和解码器的所有层来计算特征激活损失以及分割交叉熵损失。
5.如权
6.如权利要求1所述的一种用于图像分割的对抗样本生成方法，其特征在于，所述多尺度损失函数，具体表示如下：
7.如权利要求1所述的一种用于图像分割的对抗样本生成方法，其特征在于，所述图像分割网络模型采用U-Net分割网络模型。
8.一种用于图像分割的对抗样本生成系统，其特征在于，包括：
9.一种电子设备，包括存储器、处理器及存储在存储器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1-7任一项所述的一种用于图像分割的对抗样本生成方法。
10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7任一项所述的一种用于图像分割的对抗样本生成方法。
...【技术特征摘要】
1.一种用于图像分割的对抗样本生成方法，其特征在于，包括：
2.如权利要求1所述的一种用于图像分割的对抗样本生成方法，其特征在于，所述基于图像分割网络模型中多尺度损失函数的梯度生成扰动，其中，所述多尺度损失函数包括用于计算预测掩码与目标掩码之间差距的目标攻击损失，用于计算图像分割网络模型的网络层中源图像的激活和目标图像的激活之间欧氏距离的特征激活损失，用于计算图像分割网络的输出预测掩码与掩码之间的交叉熵的分割交叉熵损失，以及用于计算对抗样本和原始图像样本之间距离的像素级损失函数。
3.如权利要求1所述的一种用于图像分割的对抗样本生成方法，其特征在于，基于获得的多尺度损失函数，通过最小化多尺度损失函数，获得初始扰动。
4.如权利要求1所述的一种用于图像分割的对抗样本生成方法，其特征在于，所述u-net分割网络模型包括编码器和解码器，其中，编码器用于提供来自待分割图像的低分辨率语义信息，解码器利用低层的响应丰富空间信息，在利用多尺度损失函数生成初始扰动时，利用编码...
【专利技术属性】
技术研发人员：张高志，李凡平，石柱国，
申请(专利权)人：以萨技术股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。