System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 检查图像搜索引擎系统安全性的方法、设备及介质技术方案_技高网

检查图像搜索引擎系统安全性的方法、设备及介质技术方案

技术编号:40267062 阅读:8 留言:0更新日期:2024-02-02 22:55
本发明专利技术公开一种基于模式注入动态生成式目标对抗攻击方法、识别及介质,方法通过由交叉注意力引导的动态卷积模块和模式注入模块构成的生成式攻击模型进行对抗样本生成,包括:步骤1,由交叉注意力引导的动态卷积模块将给定的输入图像生成可转移的对抗样本;步骤2,由模式注入模块将从样本的特征中提取出来并经剪枝后的模型模式注入到步骤1生成的可转移的对抗样本中,得到输入被攻击模型的最终对抗样本。该方法以注入目标模式生成可转移的对抗样本,交叉注意力引导卷积模块对特定样本和全局数据集分别采用动态卷积核和静态卷积核,这继承了实例特定攻击和实例无关攻击的优点。模式注入模块用模式原型对目标模式编码,指导目标对抗样本的生成。

【技术实现步骤摘要】

本专利技术涉及检查图像搜索引擎系统安全性领域,尤其涉及一种检查图像搜索引擎系统安全性的方法、设备及介质


技术介绍

1、目前的图像搜索引擎系统依赖于图像分类模型实现图像的分类及给出准确的搜索结果,而图像分类模型的安全性决定了图像搜索引擎系统的安全性,现有评估图像分类模型的安全性多通过对抗攻击实现,在近年来受到了广泛的关注。在各种对抗攻击中,目标对抗攻击旨在误导受害者模型,输出攻击方期望的预测,这比无目标攻击更具挑战性和威胁性。

2、现有的目标对抗攻击大致可分为实例特定攻击和实例无关攻击。实例特定攻击通过对特定实例的迭代梯度更新来生成对抗样本。与此相反,实例无关攻击通过学习全局数据集上的普遍扰动或学习出一个生成式模型来执行攻击。

3、但是,它们过于依赖替代模型的分类决策边界,从而忽略了目标类别的现实分布,这可能会限制目标攻击的性能。同时也没有尝试将特定样本的信息和全局数据集结合起来,因此利用现有实例无关攻击来检查图像搜索引擎系统的图像分类模型,无法准确确定图像分类模型的安全性,进而也无法保证使用图像分类模型的图像搜索引擎系统的安全性。

4、有鉴于此,特提出本专利技术。


技术实现思路

1、本专利技术的目的是提供了一种检查图像搜索引擎系统安全性的方法、设备及介质、设备及介质,能保证目标攻击的性能,进而准确检查图像搜索引擎系统的图像分类模型的安全性,很好解决现有技术中存在的上述技术问题。

2、本专利技术的目的是通过以下技术方案实现的:

3、一种检查图像搜索引擎系统安全性的方法,包括:

4、步骤1,通过预先训练好的生成式攻击模型以注入目标模式来生成模式注入对抗样本;

5、步骤2,将需要检查安全性的图像搜索引擎系统的图像分类模型作为被攻击模型,利用步骤1生成的模式注入对抗样本对被攻击模型进行目标攻击,根据目标攻击结果确定的图像分类模型的安全性来确认图像搜索引擎系统的安全性。

6、一种处理设备,包括:

7、至少一个存储器,用于存储一个或多个程序;

8、至少一个处理器,能执行所述存储器所存储的一个或多个程序,在一个或多个程序被处理器执行时,使得所述处理器能实现本专利技术所述的方法。

9、一种可读存储介质,存储有计算机程序,当计算机程序被处理器执行时能实现本专利技术所述的方法。

10、与现有技术相比,本专利技术所提供的基于模式注入动态生成式目标对抗攻击方法、设备及介质,其有益效果包括:

11、通过生成式攻击模型以注入目标模式来生成模式注入对抗样本,由于模式注入对抗样本利用模式原型对目标模式进行编码,从而指导目标对抗样本的生成,实现了对给定的输入图像样本生成对抗样本,使得作为受害模型的需要检查安全性的图像搜索引擎系统的图像分类模型将图像样本错误分类成指定的期望类别,根据对抗攻击结果,能很好的确定该图像分类模型的的安全性和鲁棒性,进而提升使用图像分类模型的图像搜索引擎系统的的安全性和稳健性。

本文档来自技高网
...

【技术保护点】

1.一种检查图像搜索引擎系统安全性的方法,其特征在于,包括:

2.根据权利要求1所述的检查图像搜索引擎系统安全性的方法,其特征在于,所述生成式攻击模型由依次连接的N个动态跳连接块和一个加法器组成,每个动态跳连接块均包含交叉注意力引导的动态卷积模块和模式注入模块,每个交叉注意力引导卷积模块均由静态卷积核和根据输入的原始图像样本计算的动态卷积核组成;

3.根据权利要求2所述的检查图像分类模型安全性的方法,其特征在于,所述生成式攻击模型训练的总损失函数为:

4.根据权利要求2或3所述的检查图像搜索引擎系统安全性的方法,其特征在于,所述步骤1中,预先训练好的生成式攻击模型按以下方式以注入目标模式来生成模式注入对抗样本,包括:

5.根据权利要求4所述的检查图像搜索引擎系统安全性的方法,其特征在于,所述步骤11中,所述交叉注意力引导的动态卷积模块根据输入的图像特征计算所述交叉注意力引导的动态卷积模块的动态卷积核的权重,并根据动态卷积核的权重更新该动态卷积核参数,包括:

6.根据权利要求4所述的检查图像分类模型安全性的方法,其特征在于,所述模式注入模块由依次连接的目标模式信息提取模块和自适应类规范化模块AdaCN构成;

7.一种处理设备,其特征在于,包括:

8.一种可读存储介质,存储有计算机程序,其特征在于,当计算机程序被处理器执行时能实现权利要求1-6任一项所述的方法。

...

【技术特征摘要】

1.一种检查图像搜索引擎系统安全性的方法,其特征在于,包括:

2.根据权利要求1所述的检查图像搜索引擎系统安全性的方法,其特征在于,所述生成式攻击模型由依次连接的n个动态跳连接块和一个加法器组成,每个动态跳连接块均包含交叉注意力引导的动态卷积模块和模式注入模块,每个交叉注意力引导卷积模块均由静态卷积核和根据输入的原始图像样本计算的动态卷积核组成;

3.根据权利要求2所述的检查图像分类模型安全性的方法,其特征在于,所述生成式攻击模型训练的总损失函数为:

4.根据权利要求2或3所述的检查图像搜索引擎系统安全性的方法,其特征在于,所述步骤1中,预先训练好的生成式攻击模型按以下方式以注入目标模式...

【专利技术属性】
技术研发人员:张天柱张淞宁冯巍巍张勇东
申请(专利权)人:中国科学技术大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1