本申请涉及人工智能的图像处理技术领域，公开了一种图像处理方法、装置、电子设备及可读存储介质，图像处理方法包括：获取目标标签，确定预设的初始分类模型中与目标标签对应的目标神经元；调节初始分类模型中的目标神经元的参数，得到分类模型；获取触发标签图像，将触发标签图像粘贴于待处理图像中，生成附带标签图像；将附带标签图像输入分类模型，以使分类模型对附带标签图像定向识别得到目标标签。本申请提供的图像处理方法不需要在训练集中注入中毒样本，可以避免在攻击过程中被检测出，从而实现对附带标签图像进行定向识别。从而实现对附带标签图像进行定向识别。从而实现对附带标签图像进行定向识别。
【技术实现步骤摘要】
图像处理方法、装置、电子设备及可读存储介质
[0001]本申请涉及图像
，具体而言，本申请涉及一种图像处理方法、装置、电子设备及可读存储介质。
技术介绍
[0002]随着人工智能的发展，神经网络模型已经广泛应用到各行各业，在各个场景发挥着非常重要的作用。后门攻击是指在模型训练过程中，通过对一些图片中加入特定的触发标签图像，模型经过训练后对正常图像可以正确判断，但当图像中贴上预设的触发标签图像时，判定结果会被定向为预设的目标标签。
[0003]模型对图像的定向识别可以应用于模型盗用的场景中，对神经网络模型进行后门攻击后，当模型被盗用时，可以将预设的触发标签图像输入到疑似盗用的模型中，根据是否定向输出目标标签判断模型是否被盗用。
[0004]现有的图像定向识别的方法中，均是依赖投毒攻击的方法，通过在训练集中注入中毒样本实现后门植入的目的。但这种方式容易在攻击过程中被检测出，导致模型不能对触发标签图像进行定向识别。
技术实现思路
[0005]本申请的目的旨在至少能解决上述的技术缺陷之一，特提出以下技术方案：
[0006]第一方面，提供了一种图像处理方法，包括：
[0007]获取目标标签，确定预设的初始分类模型中与目标标签对应的目标神经元；
[0008]调节初始分类模型中的目标神经元的参数，得到分类模型；
[0009]获取触发标签图像，将触发标签图像粘贴于待处理图像中，生成附带标签图像；
[0010]将附带标签图像输入分类模型，以使分类模型对附带标签图像定向识别得到目标标签。
[0011]在第一方面的可选实施例中，调节初始分类模型中的目标神经元的参数，包括：
[0012]确定初始分类模型中用于输出分类结果的末层神经元的参数；
[0013]基于末层神经元的参数调节目标神经元的参数。
[0014]在第一方面的可选实施例中，基于末层神经元的参数调节目标神经元的参数，包括：
[0015]确定末层神经元的参数的绝对值的平均值；
[0016]将平均值的预设倍数设为目标神经元的参数增量值，基于参数增量值调节目标神经元的参数。
[0017]在第一方面的可选实施例中，预设倍数为5至10倍。
[0018]在第一方面的可选实施例中，获取触发标签图像，包括：
[0019]获取样本图像，基于样本图像生成初始触发标签图像；
[0020]基于遗传算法对初始触发标签图像进行迭代进化，得到触发标签图像。
[0021]在第一方面的可选实施例中，基于遗传算法对初始触发标签图像进行迭代进化，得到触发标签图像，包括：
[0022]对初始触发标签图像进行编码得到编码数据；
[0023]基于遗传算法对编码数据进行迭代进化，得到进化数据；
[0024]基于得到的进化数据生成进化标签图像；
[0025]若进化标签图像符合定向分类条件，则将进化标签图像作为触发标签图像。
[0026]在第一方面的可选实施例中，若进化标签图像符合定向分类条件，则将进化标签图像作为触发标签图像之前，还包括：
[0027]将进化标签图像输入初始分类模型；
[0028]若初始分类模型针对进化标签图像的识别结果为任一类别的识别概率均小于第一预设阈值，则判定进化标签图像符合定向分类条件。
[0029]在第一方面的可选实施例中，若进化标签图像符合定向分类条件，则将进化标签图像作为触发标签图像之前，还包括：
[0030]将进化标签图像输入分类模型；
[0031]若分类模型针对进化标签图像的识别结果为针对目标标签的识别概率大于第二预设阈值，则判定进化标签图像符合定向分类条件。
[0032]第二方面，提供了一种图像处理装置，包括：
[0033]确定模块，用于获取目标标签，确定预设的初始分类模型中与目标标签对应的目标神经元；
[0034]调节模块，用于调节初始分类模型中的目标神经元的参数，得到分类模型；
[0035]获取模块，用于获取触发标签图像，将触发标签图像粘贴于待处理图像中，生成附带标签图像；
[0036]识别模块，用于将附带标签图像输入分类模型，以使分类模型对附带标签图像定向识别得到目标标签。
[0037]在第二方面的可选实施例中，调节模块在调节初始分类模型中的目标神经元的参数时，具体用于：
[0038]确定初始分类模型中用于输出分类结果的末层神经元的参数；
[0039]基于末层神经元的参数调节目标神经元的参数。
[0040]在第二方面的可选实施例中，调节模块在基于末层神经元的参数调节目标神经元的参数时，具体用于：
[0041]确定末层神经元的参数的绝对值平的均值；
[0042]将平均值的预设倍数设为目标神经元的参数增量值，基于参数增量值调节目标神经元的参数。
[0043]在第二方面的可选实施例中，预设倍数为5至10倍。
[0044]在第二方面的可选实施例中，获取模块在获取触发标签图像时，具体用于：
[0045]获取样本图像，基于样本图像生成初始触发标签图像；
[0046]基于遗传算法对初始触发标签图像进行迭代进化，得到触发标签图像。
[0047]在第二方面的可选实施例中，获取模块在基于遗传算法对初始触发标签图像进行迭代进化，得到触发标签图像时，具体用于：
[0048]对初始触发标签图像进行编码得到编码数据；
[0049]基于遗传算法对编码数据进行迭代进化，得到进化数据；
[0050]基于得到的进化数据生成进化标签图像；
[0051]若进化标签图像符合定向分类条件，则将进化标签图像作为触发标签图像。
[0052]在第二方面的可选实施例中，还包括第一判定模块，用于：
[0053]将进化标签图像输入初始分类模型；
[0054]若初始分类模型针对进化标签图像的识别结果为任一类别的识别概率均小于第一预设阈值，则判定进化标签图像符合定向分类条件。
[0055]在第二方面的可选实施例中，还包括第二判定模块，用于：
[0056]将进化标签图像输入分类模型；
[0057]若分类模型针对进化标签图像的识别结果为针对目标标签的识别概率大于第二预设阈值，则判定进化标签图像符合定向分类条件。
[0058]第三方面，提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行程序时实现本申请第一方面所示的图像处理方法。
[0059]第四方面，提供了一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，该程序被处理器执行时实现本申请第一方面所示的图像处理方法。
[0060]本申请提供的技术方案带来的有益效果是：
[0061]通过先确定初始分类模型中与目标标签对应的目标神经元，并调节目标神经元的参数得到分类模型，使得分类模型对于目标标签有一定的倾向本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种图像处理方法，其特征在于，包括：获取目标标签，确定预设的初始分类模型中与所述目标标签对应的目标神经元；调节所述初始分类模型中的所述目标神经元的参数，得到分类模型；获取触发标签图像，将所述触发标签图像粘贴于待处理图像中，生成附带标签图像；将所述附带标签图像输入所述分类模型，以使所述分类模型对所述附带标签图像定向识别得到所述目标标签。2.根据权利要求1所述的图像处理方法，其特征在于，所述调节所述初始分类模型中的所述目标神经元的参数，包括：确定所述初始分类模型中用于输出分类结果的末层神经元的参数；基于所述末层神经元的参数调节所述目标神经元的参数。3.根据权利要求2所述的图像处理方法，其特征在于，所述基于所述末层神经元的参数调节所述目标神经元的参数，包括：确定所述末层神经元的参数的绝对值的平均值；将所述平均值的预设倍数设为所述目标神经元的参数增量值，基于所述参数增量值调节所述目标神经元的参数。4.根据权利要求3所述的图像处理方法，其特征在于，所述预设倍数为5至10倍。5.根据权利要求1所述的图像处理方法，其特征在于，所述获取触发标签图像，包括：获取样本图像，基于所述样本图像生成初始触发标签图像；基于遗传算法对所述初始触发标签图像进行迭代进化，得到所述触发标签图像。6.根据权利要求5所述的图像处理方法，其特征在于，所述基于遗传算法对所述初始触发标签图像进行迭代进化，得到所述触发标签图像，包括：对所述初始触发标签图像进行编码得到编码数据；基于遗传算法对所述编码数据进行迭代进化，得到进化数据；基于得到的进化数据生成进化标签图像；若所述进化标签图像符合定向分类条件，则将所述进...
【专利技术属性】
技术研发人员：徐京徽，杨勇，朱季峰，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。