模型窃取识别方法及相关设备技术

技术编号:42072665 阅读:19 留言:0更新日期:2024-07-19 16:53
本申请提供一种模型窃取识别方法及相关设备,将特征增强图像输入待识别模型,利用待识别模型输出与待识别模型对应的第一预测向量,以及获取待识别模型与特征增强图像对应的第一模型权值梯度,通过使用特征增强图像无需对目标模型的预测向量和模型结构做修改,因此不会影响目标模型的预测效果,保障用户对于目标模型的使用体验,此外还通过将第一预测向量输入预先经过训练的二元分类器中的与第一窃取场景对应的第一模型,经第一模型得到第一分类结果,同时将第一模型权值梯度输入二元分类模型中与第二窃取场景对应的第二模型,经第二模型得到第二分类结果,实现同时适用于多种窃取场景下的模型窃取识别,避免产生误报以及被自适应攻击绕过等问题。

【技术实现步骤摘要】

本申请涉及人工智能,尤其涉及一种模型窃取识别方法及相关设备


技术介绍

1、模型窃取攻击,又称模型提取攻击,其目的是获取目标模型的知识,包括权重参数,隐私数据以及模型结构等信息。通过模型窃取攻击获取的知识,攻击者可以构建一个与目标模型具有相似性能的模型,或针对模型内部参数进行进一步的求解,如解密模型,泄露隐私信息等,因此会给目标模型带来巨大的威胁。

2、基于上述情况,现有技术中模型窃取识别方式适用场景有限,易产生误报容易被自适应攻击绕过等问题。


技术实现思路

1、有鉴于此,本申请的目的在于提出一种模型窃取识别方法及相关设备,用以解决上述技术问题。

2、基于上述目的,本申请的第一方面提供了一种模型窃取识别方法,包括:

3、获取与预先经过训练的目标模型对应的训练用图像,以及与所述目标模型对应的待识别模型;

4、按照预设的转化率从所述训练用图像中选定目标训练用图像;

5、基于预设的通道像素值将所述目标训练用图像转换为灰度图像;

<p>6、利用拉普拉斯本文档来自技高网...

【技术保护点】

1.一种模型窃取识别方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述目标模型的训练过程包括:

3.根据权利要求1所述的方法,其特征在于,所述二元分类器的训练过程包括:

4.根据权利要求3所述的方法,其特征在于,所述对比模型的训练过程包括:

5.根据权利要求1所述的方法,其特征在于,所述二元分类器的训练过程包括:

6.根据权利要求1所述的方法,其特征在于,所述方法还包括:

7.根据权利要求1所述的方法,其特征在于,将所述第一预测向量输入预先经过训练的二元分类器中的与第一窃取场景对应的第一模型,经...

【技术特征摘要】

1.一种模型窃取识别方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述目标模型的训练过程包括:

3.根据权利要求1所述的方法,其特征在于,所述二元分类器的训练过程包括:

4.根据权利要求3所述的方法,其特征在于,所述对比模型的训练过程包括:

5.根据权利要求1所述的方法,其特征在于,所述二元分类器的训练过程包括:

6.根据权利要求1所述的方法,其特征在于,所述方法还包括:

7.根据权利要求1所述的方法,其特征在于,将所述第一预测向量输入预先经过训练的二元分类器中的与第一窃取场景对应的第一模型,经所述第一模型得到第一分类...

【专利技术属性】
技术研发人员:徐国胜王晨宇张少康
申请(专利权)人:北京邮电大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1