当前位置: 首页 > 专利查询>吉林大学专利>正文

一种基于比特翻转攻击的图像识别模型混合量化方法技术

技术编号:40499674 阅读:23 留言:0更新日期:2024-02-26 19:27
本发明专利技术公开了一种基于比特翻转攻击的图像识别模型混合量化方法,包括:步骤一、对图像识别模型进行初始量化,转化为初始量化模型;从所述初始量化模型的第一层开始,逐层进行比特翻转攻击,并且记录每一层受到攻击的敏感度;将所有层的敏感度组成初始量化模型的敏感度集合;构建优化目标函数并且确定优化约束条件,根据所述优化目标函数和所述优化约束条件确定图像识别模型的最优混合精度量化策略;步骤三、根据所述最优混合精度量化策略为图像识别模型的每一层设置用于存储该层参数的比特位宽,得到最优混合量化模型;步骤四、获取待识别图像,使用所述最优混合量化模型进行图像识别。

【技术实现步骤摘要】

本专利技术属于图像识别,特别涉及一种基于比特翻转攻击的图像识别模型混合量化方法


技术介绍

1、近年来,图像识别任务持续向复杂化、大规模靠拢,导致用于图像识别的深度学习模型不得不不断扩大规模,巨量的计算资源需求成为部署dl模型的重大挑战。

2、量化以低精度位宽存储深度学习模型的参数,减小了模型规模和计算开销,是一种对硬件更友好的技术,也一直是深度学习领域的研究热点。全精度模型的参数使用32个比特位存储在计算设备中,量化技术将模型的参数转化为以8个比特位存储的参数,同时尽量保持模型的识别准确度,但在超低比特位情景下,所有模型参数固定转化到1个固定比特位宽的形式造成了较大的性能下降。

3、混合精度量化技术使用不同的比特位宽存储深度学习模型不同部分的参数,可以充分利用深度学习模型不同部分的代表性能力和冗余的差异,此外支持混合精度技术的硬件的出现也促进了混合精度量化的发展。混合精度量化技术为模型的不同部分分配的比特位宽集合称为混合精度量化策略,如何获得合理的混合精度量化策略、达到在压缩模型的同时保持模型准确度,是混合精度量化技术的核心要义。本文档来自技高网...

【技术保护点】

1.一种基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,在所述步骤一中,将图像识别模型以8比特精度进行量化,得到所述初始量化模型。

3.根据权利要求2所述的基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,在所述步骤一中,确定每一层受到攻击的敏感度的方法包括:

4.根据权利要求2或3所述的基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,在所述步骤二中,确定图像识别模型的最优混合精度量化策略,包括如下步骤:

>5.根据权利要求4...

【技术特征摘要】

1.一种基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,在所述步骤一中,将图像识别模型以8比特精度进行量化,得到所述初始量化模型。

3.根据权利要求2所述的基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,在所述步骤一中,确定每一层受到攻击的敏感度的方法包括:

4.根据权利要求2或3所述的基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,在所述步骤二中,确定图像识别模型的最优混合精度量化策略,包括如下步骤:

5.根据权利要求4所述的基于比特翻...

【专利技术属性】
技术研发人员:王兴旺孙亚峰陈仕霖徐海啸
申请(专利权)人:吉林大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1