量化误差补偿方法、系统、电子设备、存储介质技术方案

本发明专利技术提供一种量化误差补偿方法、系统、电子设备、存储介质，所述方法包括：获取量化模型的输出；将所述量化模型的输出作为输入，输入预置的补偿网络模型中，所述补偿网络模型输出误差补偿值；将所述误差补偿值与所述量化模型的输出相加，得到补偿后的输出。通过轻量级别的补偿网络模型完成对量化模型的误差补偿，训练快而且时间短，相比现有的QAT方法，所需的训练时间大大减小。训练时间大大减小。训练时间大大减小。

【技术实现步骤摘要】
量化误差补偿方法、系统、电子设备、存储介质


[0001]本专利技术涉及自动驾驶
，尤其涉及一种量化误差补偿方法、系统、电子设备、存储介质。

技术介绍

[0002]深度学习模型部署时，通常会采用量化方式进行模型加速。量化后的模型运行时，与量化前的模型存在误差，量化后的位宽越低，误差越大。
[0003]在自动驾驶的感知
，专利技术人对车道线分类模型进行量化加速处理后，获取的量化模型就出现了前述的误差过大的问题。针对该误差问题，专利技术人首先采取了通过量化感知训练(QAT，Quantification Aware Training)的方式，让模型在训练中模拟和适应量化，从而减小量化后的误差。
[0004]但是，由于自动驾驶所在平台的性能限制，QAT的方式虽然能减小量化后的误差，但是需要对原模型进行fine
‑
tuning训练，训练时间根据模型和数据集而定，耗时颇巨，导致QAT的方式不能满足自动驾驶中对车道线分类的时间要求。

技术实现思路

[0005]针对现有技术存在的问题，本专利技术提供一种量化误差补偿方法、系统、电子设备、存储介质。
[0006]本专利技术提供的一种量化误差补偿方法，所述方法包括：
[0007]获取量化模型的输出；
[0008]将所述量化模型的输出作为输入，输入预置的补偿网络模型中，所述补偿网络模型输出误差补偿值；
[0009]将所述误差补偿值与所述量化模型的输出相加，得到补偿后的输出。
[0010]根据本专利技术提供的一种量化误差补偿方法，所述将所述量化模型的输出作为输入，包括：
[0011]将所述量化模型输出的特征图中每个点的值作为输入；
[0012]对应的，所述误差补偿值包括对所述每个点的误差补偿值。
[0013]根据本专利技术提供的一种量化误差补偿方法，所述补偿网络模型结构采用深度神经网络。
[0014]根据本专利技术提供的一种量化误差补偿方法，所述补偿网络模型结构采用数据挖掘中的CART算法或者GBDT算法。
[0015]根据本专利技术提供的一种量化误差补偿方法，所述量化模型是用来进行车道线分类的量化模型。
[0016]根据本专利技术提供的一种量化误差补偿方法，所述补偿网络模型的训练，包括：
[0017]向补偿网络模型、量化模型、与所述量化模型对应的原始模型分别输入同一训练集；
[0018]所述补偿网络模型获取第一训练输出，所述量化模型获取第二训练输出，所述原始模型获取第三训练输出；
[0019]将所述第二训练输出与所述第三训练输出的差值作为目标值，所述第一训练输出作为实际值，确定损失函数；
[0020]以所述损失函数的最小化为目标进行反向传播，完成所述补偿网络模型的训练。
[0021]本专利技术还提供的一种量化误差补偿系统，所述系统包括：
[0022]获取模块，所述获取模块获取量化模型的输出；
[0023]补偿模块，所述补偿模块将所述量化模型的输出作为输入，输入预置的补偿网络模型中，所述补偿网络模型输出误差补偿值；
[0024]加权模块，所述加权模块将所述误差补偿值与所述量化模型的输出相加，得到补偿后的输出。
[0025]本专利技术还提供的一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序时实现如上述任一项所述量化误差补偿方法的步骤。
[0026]本专利技术还提供的一种非暂态计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上述任一项所述量化误差补偿方法的步骤。
[0027]本专利技术还提供的一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上述任一项所述量化误差补偿方法的步骤。
[0028]本专利技术提供的量化误差补偿方法、系统、电子设备、存储介质，通过轻量级别的补偿网络模型完成对量化模型的误差补偿，训练快而且时间短，相比现有的QAT方法，所需的训练时间大大减小。
附图说明
[0029]为了更清楚地说明本专利技术或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍，显而易见地，下面描述中的附图是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0030]图1为本专利技术提供的一种量化误差补偿方法的流程示意图；
[0031]图2为本专利技术提供的一种补偿网络模型的训练方法流程示意图；
[0032]图3为本专利技术提供的量化误差补偿系统的结构示意图；
[0033]图4为本专利技术提供的一种电子设备的实体结构示意图。
具体实施方式
[0034]为使本专利技术的目的、技术方案和优点更加清楚，下面将结合本专利技术中的附图，对本专利技术中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。
[0035]下面结合附图，通过具体的实施例及其应用场景对本申请实施例提供的量化误差补偿方法进行详细地说明。
[0036]图1为本专利技术提供的一种量化误差补偿方法的流程示意图，如图1所示，本专利技术提供的一种量化误差补偿方法，方法包括：
[0037]S100、获取量化模型的输出。
[0038]需要说明的是，量化模型(Quantized Model)是一种模型加速(Model Acceleration)方法的总称，包括二值化网络(Binary Network)、三值化网络(Ternary Network)、深度压缩(Deep Compression)等。
[0039]既然存在量化模型，必然存在相应的未量化之前的模型，本申请中统一称之为原始模型。量化模型的目的在于减少模型运算量，使得模型能迅速输出结果。
[0040]优选地，本方法的执行主体为计算机，获取量化模型的输出，即向量化模型中输入该模型能够处理的对象后，获取对应的输出，该输出的形成由于量化加速的原因，存在误差，需要补偿修正。
[0041]S200、将量化模型的输出作为输入，输入预置的补偿网络模型中，补偿网络模型输出误差补偿值。
[0042]所述补偿网络模型本质就是一个误差分布拟合模型，其目的就在于获取一个带有误差的输入，获取一个针对输入的误差补偿值作为输出。
[0043]S300、将误差补偿值与量化模型的输出相加，得到补偿后的输出。
[0044]所述误差补偿值即是对量化模型的输出具备的误差的预测，这里的误差补偿值与误差取反，使得误差补偿值与量化模型的输出相加后获得补偿后的输出是相较原输出具备更小的误差。
[0045]本实施例通过轻量级别的补偿网络模型完成对量化模型的误差补偿，训练快而且时间短，相比现有的QAT方法，所需的训练时间大大减小。
[00本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种量化误差补偿方法，其特征在于，所述方法包括：获取量化模型的输出；将所述量化模型的输出作为输入，输入预置的补偿网络模型中，所述补偿网络模型输出误差补偿值；将所述误差补偿值与所述量化模型的输出相加，得到补偿后的输出。2.根据权利要求1所述的量化误差补偿方法，其特征在于，所述将所述量化模型的输出作为输入，包括：将所述量化模型输出的特征图中每个点的值作为输入；对应的，所述误差补偿值包括对所述每个点的误差补偿值。3.根据权利要求1所述的量化误差补偿方法，其特征在于，所述补偿网络模型结构采用深度神经网络。4.根据权利要求1所述的量化误差补偿方法，其特征在于，所述补偿网络模型结构采用数据挖掘中的CART算法或者GBDT算法。5.根据权利要求1所述的量化误差补偿方法，其特征在于，所述量化模型是用来进行车道线分类的量化模型。6.根据权利要求1
‑
5中任一所述的量化误差补偿方法，其特征在于，所述补偿网络模型的训练，包括：向补偿网络模型、量化模型、与所述量化模型对应的原始模型分别输入同一训练集；所述补偿网络模型获取第一训练输出，所述量化模型获取第二训练输出，所述原始模型获取第三训练输出；将所...

【专利技术属性】
技术研发人员：陆强，
申请(专利权)人：际络科技上海有限公司，
类型：发明
国别省市：