一种面向视频监控的目标检测模型量化精度损失建模方法技术

本发明专利技术涉及一种面向视频监控的目标检测模型量化精度损失建模方法，采用量化前与量化后的模型输出的信号量化噪声比作为模型量化精度损失的度量标准，并且创新性地采用基于信号量化噪声比度量误差的反向传播技术，细粒度定位误差产生的参数位置，解释量化误差的主要发生位置和对分类面的影响程度，打破量化模型的内部黑盒。本发明专利技术的有益效果是：本发明专利技术可细粒度定位量化误差产生的参数位置，为目标检测模型量化方法的提供判断依据，在目标检测模型量化方法的改进方面有广阔的应用前景。量化方法的改进方面有广阔的应用前景。量化方法的改进方面有广阔的应用前景。

【技术实现步骤摘要】
一种面向视频监控的目标检测模型量化精度损失建模方法


[0001]本专利技术涉及电数字数据处理领域，更确切地说，它涉及一种面向视频监控的目标检测模型量化精度损失建模方法。

技术介绍

[0002]在过去的几年里，目标检测模型的准确性有了显著的提高，而这通常是通过过度参数化的模型来实现的，即模型的参数量和计算量也明显增大。因此，在部署目标检测模型时面临着这样一个问题，即如何在资源有限的边缘设备上进行低能耗和高精度的实时推理任务。
[0003]量化将神经网络模型的权值、激活值等从高精度浮点数转换成低精度浮点数或整数，其关键在于如何将一组连续的实数映射到一个固定的离散数集上，并且在最小化该离散数集所需的比特数的同时尽量减少计算准确性的下降。模型量化能够有效地减少模型的计算量、权值文件大小等，便于将模型部署至资源受限的环境中。
[0004]量化的基本原理是在定点和浮点数据中间构建一个数据映射关系，致使其以较小的精度损失代价得到了较好的收益。现有的先进量化方法包括混合精度量化、硬件感知量化、蒸馏辅助量化、极端量化等。然而，目前的模型量化方法存本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种面向视频监控的目标检测模型量化精度损失建模方法，其特征在于，包括：步骤1、获取量化前目标检测模型W和量化后目标检测模型W
′
，将一组测试数据x分别输入到所述量化前目标检测模型W和所述量化后目标检测模型W
′
进行前向运算，得到量化前模型输出y，量化后模型输出y
′
；步骤2、计算量化前与量化后模型输出的信号量化噪声比SQNR(y,y
′
)；步骤3、根据所述信号量化噪声比SQNR(y,y
′
)进行反向传播，计算量化前模型梯度步骤4、计算所述量化前模型梯度的绝对值并对其进行归一化得到将绘制成热力图，并定位量化误差产生的参数位置。2.根据权利要求1所述的面向视频监控的目标检测模型量化精度损失建模方法，其特征在于，步骤1中，所述量化前目标检测模型为YOLOX目标检测模型。3.根据权利要求1所述的面向视频监控的目标检测模型量化精度损失建模方法，其特征在于，步骤2中，信号量化噪声比SQNR(y,y
′
)的计算公式为：其中，y
noise
为量化对模型输出产生的噪声。4.根据权利要求1所述的面向视频监控的目标检测模型量化精度损失建模方法，其特征在于...

【专利技术属性】
技术研发人员：王豆，郭鼎，郭庆，姜志锋，傅骏伟，张震伟，王健，闻杰，俞荣栋，孟瑜玮，
申请(专利权)人：浙江浙能数字科技有限公司，
类型：发明
国别省市：