【技术实现步骤摘要】
本专利技术属于图像识别,特别涉及一种基于比特翻转攻击的图像识别模型混合量化方法。
技术介绍
1、近年来,图像识别任务持续向复杂化、大规模靠拢,导致用于图像识别的深度学习模型不得不不断扩大规模,巨量的计算资源需求成为部署dl模型的重大挑战。
2、量化以低精度位宽存储深度学习模型的参数,减小了模型规模和计算开销,是一种对硬件更友好的技术,也一直是深度学习领域的研究热点。全精度模型的参数使用32个比特位存储在计算设备中,量化技术将模型的参数转化为以8个比特位存储的参数,同时尽量保持模型的识别准确度,但在超低比特位情景下,所有模型参数固定转化到1个固定比特位宽的形式造成了较大的性能下降。
3、混合精度量化技术使用不同的比特位宽存储深度学习模型不同部分的参数,可以充分利用深度学习模型不同部分的代表性能力和冗余的差异,此外支持混合精度技术的硬件的出现也促进了混合精度量化的发展。混合精度量化技术为模型的不同部分分配的比特位宽集合称为混合精度量化策略,如何获得合理的混合精度量化策略、达到在压缩模型的同时保持模型准确度,是混合精度
...【技术保护点】
1.一种基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,包括如下步骤:
2.根据权利要求1所述的基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,在所述步骤一中,将图像识别模型以8比特精度进行量化,得到所述初始量化模型。
3.根据权利要求2所述的基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,在所述步骤一中,确定每一层受到攻击的敏感度的方法包括:
4.根据权利要求2或3所述的基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,在所述步骤二中,确定图像识别模型的最优混合精度量化策略,包括如下步骤:
【技术特征摘要】
1.一种基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,包括如下步骤:
2.根据权利要求1所述的基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,在所述步骤一中,将图像识别模型以8比特精度进行量化,得到所述初始量化模型。
3.根据权利要求2所述的基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,在所述步骤一中,确定每一层受到攻击的敏感度的方法包括:
4.根据权利要求2或3所述的基于比特翻转攻击的图像识别模型混合量化方法,其特征在于,在所述步骤二中,确定图像识别模型的最优混合精度量化策略,包括如下步骤:
5.根据权利要求4所述的基于比特翻...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。