一种面向视频监控的目标检测模型量化精度损失建模方法技术

本发明专利技术涉及一种面向视频监控的目标检测模型量化精度损失建模方法，采用量化前与量化后的模型输出的信号量化噪声比作为模型量化精度损失的度量标准，并且创新性地采用基于信号量化噪声比度量误差的反向传播技术，细粒度定位误差产生的参数位置，解释量化误差的主要发生位置和对分类面的影响程度，打破量化模型的内部黑盒。本发明专利技术的有益效果是：本发明专利技术可细粒度定位量化误差产生的参数位置，为目标检测模型量化方法的提供判断依据，在目标检测模型量化方法的改进方面有广阔的应用前景。量化方法的改进方面有广阔的应用前景。量化方法的改进方面有广阔的应用前景。

【技术实现步骤摘要】
一种面向视频监控的目标检测模型量化精度损失建模方法


[0001]本专利技术涉及电数字数据处理领域，更确切地说，它涉及一种面向视频监控的目标检测模型量化精度损失建模方法。

技术介绍

[0002]在过去的几年里，目标检测模型的准确性有了显著的提高，而这通常是通过过度参数化的模型来实现的，即模型的参数量和计算量也明显增大。因此，在部署目标检测模型时面临着这样一个问题，即如何在资源有限的边缘设备上进行低能耗和高精度的实时推理任务。
[0003]量化将神经网络模型的权值、激活值等从高精度浮点数转换成低精度浮点数或整数，其关键在于如何将一组连续的实数映射到一个固定的离散数集上，并且在最小化该离散数集所需的比特数的同时尽量减少计算准确性的下降。模型量化能够有效地减少模型的计算量、权值文件大小等，便于将模型部署至资源受限的环境中。
[0004]量化的基本原理是在定点和浮点数据中间构建一个数据映射关系，致使其以较小的精度损失代价得到了较好的收益。现有的先进量化方法包括混合精度量化、硬件感知量化、蒸馏辅助量化、极端量化等。然而，目前的模型量化方法存在精度损失大、鲁棒性差等问题，其根本原因在于量化过程中产生计算精度损失的机理不清。

技术实现思路

[0005]本专利技术的目的是克服现有技术中的不足，提供了面向视频监控的目标检测模型量化精度损失建模方法，针对目标检测模型量化过程中产生计算精度损失机理不清的问题，本方案采用量化前与量化后的模型输出的信号量化噪声比(signal
‑
to
‑
quantization
‑
noise ratio,SQNR)作为模型量化精度损失的度量标准，并且创新性地采用基于信号量化噪声比度量误差的反向传播技术，细粒度定位误差产生的参数位置，解释量化误差的主要发生位置和对分类面的影响程度，打破量化模型的内部黑盒。
[0006]第一方面，提供了面向视频监控的目标检测模型量化精度损失建模方法的方法，包括：
[0007]步骤1、获取量化前目标检测模型W和量化后目标检测模型W
′
，将一组测试数据x分别输入到所述量化前目标检测模型W和所述量化后目标检测模型W
′
进行前向运算，得到量化前模型输出y，量化后模型输出y
′
；
[0008]步骤2、计算量化前与量化后模型输出的信号量化噪声比SQNR(y,y
′
)；
[0009]步骤3、根据所述信号量化噪声比SQNR(y,y
′
)进行反向传播，计算量化前模型梯度；
[0010]步骤4、计算所述量化前模型梯度的绝对值并对其进行归一化得到将绘制成热力图，并定位量化误差产生的参数位置。
[0011]作为优选，步骤1中，所述量化前目标检测模型为YOLOX目标检测模型。
[0012]作为优选，步骤2中，信号量化噪声比SQNR(y,y
′
)的计算公式为：
[0013][0014]其中，y
noise
为量化对模型输出产生的噪声。
[0015]作为优选，步骤3中，量化前模型梯度的计算公式为：
[0016][0017]作为优选，步骤4中，的计算公式为：
[0018][0019]第二方面，提供了一种面向视频监控的目标检测模型量化精度损失建模装置，用于执行第一方面任一所述的面向视频监控的目标检测模型量化精度损失建模方法，包括：
[0020]获取模块，用于获取量化前目标检测模型W和量化后目标检测模型W
′
，将一组测试数据x分别输入到所述量化前目标检测模型W和所述量化后目标检测模型W
′
进行前向运算，得到量化前模型输出y，量化后模型输出y
′
；
[0021]第一计算模块，用于计算量化前与量化后模型输出的信号量化噪声比SQNR(y,y
′
)；
[0022]第二计算模块，用于根据所述信号量化噪声比SQNR(y,y
′
)进行反向传播，计算量化前模型梯度
[0023]第三计算模块，用于计算所述量化前模型梯度的绝对值并对其进行归一化得到将绘制成热力图，并定位量化误差产生的参数位置。
[0024]第三方面，提供了一种计算机存储介质，所述计算机存储介质内存储有计算机程序；所述计算机程序在计算机上运行时，使得计算机执行第一方面任一所述的面向视频监控的目标检测模型量化精度损失建模方法。
[0025]本专利技术的有益效果是：本专利技术针对量化过程中产生计算精度损失机理不清的问题，基于度量误差的反向传播技术，细粒度定位误差产生的参数位置，解释量化误差的主要发生位置和对分类面的影响程度，打破量化模型的内部黑盒，为目标检测模型量化方法的提供判断依据，在目标检测模型量化方法的改进方面有广阔的应用前景。
附图说明
[0026]图1为一种面向视频监控的目标检测模型量化精度损失建模方法的流程图；
[0027]图2为YOLOX目标检测模型第一层权值进行16比特量化后的精度损失建模效果图。
具体实施方式
[0028]下面结合实施例对本专利技术做进一步描述。下述实施例的说明只是用于帮助理解本专利技术。应当指出，对于本
的普通人员来说，在不脱离本专利技术原理的前提下，还可以对本专利技术进行若干修饰，这些改进和修饰也落入本专利技术权利要求的保护范围内。
[0029]作为一种实施例，本申请提供了一种面向视频监控的目标检测模型量化精度损失建模方法的方法，给定量化前及量化后的目标检测模型，将量化前与量化后模型输出的信
号量化噪声比SQNR作为损失函数，量化前模型的权重作为待优化参数，进行反向传播，计算量化前模型权重的梯度，根据梯度的绝对值大小定位量化误差的主要发生位置。该方法中使用的符号如表1所示：
[0030]表1
[0031][0032]本申请基于度量误差的反向传播技术对目标检测模型量化产生的精度损失进行建模，细粒度定位量化误差产生的参数位置，为目标检测模型量化方法的改进提供判断依据。
[0033]具体地，如图1所示，该方法包括：
[0034]步骤1、获取量化前目标检测模型W和量化后目标检测模型W
′
，将一组测试数据x分别输入到所述量化前目标检测模型W和所述量化后目标检测模型W
′
进行前向运算，得到量化前模型输出y，量化后模型输出y
′
。
[0035]步骤1中，量化前模型输出y和量化后模型输出y
′
表示为：
[0036]y＝F(x；W)
[0037]y
′
＝f
′
(x；W
′
)
[0038]步骤2、计算量化前与量化后模型输出的信号量化噪声比SQNR(y,y
′
)。
[0039]步骤2中，信号量化噪声比SQNR(y,y
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种面向视频监控的目标检测模型量化精度损失建模方法，其特征在于，包括：步骤1、获取量化前目标检测模型W和量化后目标检测模型W
′
，将一组测试数据x分别输入到所述量化前目标检测模型W和所述量化后目标检测模型W
′
进行前向运算，得到量化前模型输出y，量化后模型输出y
′
；步骤2、计算量化前与量化后模型输出的信号量化噪声比SQNR(y,y
′
)；步骤3、根据所述信号量化噪声比SQNR(y,y
′
)进行反向传播，计算量化前模型梯度步骤4、计算所述量化前模型梯度的绝对值并对其进行归一化得到将绘制成热力图，并定位量化误差产生的参数位置。2.根据权利要求1所述的面向视频监控的目标检测模型量化精度损失建模方法，其特征在于，步骤1中，所述量化前目标检测模型为YOLOX目标检测模型。3.根据权利要求1所述的面向视频监控的目标检测模型量化精度损失建模方法，其特征在于，步骤2中，信号量化噪声比SQNR(y,y
′
)的计算公式为：其中，y
noise
为量化对模型输出产生的噪声。4.根据权利要求1所述的面向视频监控的目标检测模型量化精度损失建模方法，其特征在于...

【专利技术属性】
技术研发人员：王豆，郭鼎，郭庆，姜志锋，傅骏伟，张震伟，王健，闻杰，俞荣栋，孟瑜玮，
申请(专利权)人：浙江浙能数字科技有限公司，
类型：发明
国别省市：