一种用于3D点云目标检测模型的在线量化方法、电子设备和可读存储介质技术

本公开涉及一种用于3D点云目标检测模型的在线量化方法，包括：根据计算出的稀疏浮点特征值的分布零点和缩放因子，将所述稀疏浮点特征值转换为第一稀疏低比特定点数，并根据计算出的稀疏浮点权重的分布零点和缩放因子将所述稀疏浮点权重转换为第二稀疏低比特定点数；基于所述第一稀疏低比特定点数和所述第二稀疏低比特定点数卷积得到所述3D点云目标检测模型的3D稀疏卷积模块的卷积输出值；将所述3D稀疏卷积模块的卷积输出值反量化到点云数据格式的输出数据；基于所述输出数据与输入的点云数据之间的梯度更新所述3D稀疏卷积模块的各层的稀疏浮点权重。的各层的稀疏浮点权重。的各层的稀疏浮点权重。

【技术实现步骤摘要】
一种用于3D点云目标检测模型的在线量化方法、电子设备和可读存储介质


[0001]本公开涉及人工智能领域，具体来说，涉及神经网格模型量化领域，更具体地，本公开涉及用于点云目标检测模型的在线量化方法。

技术介绍

[0002]在高级别自动驾驶感知方案中，基于激光雷达的3D目标检测算法成为精准感知周围障碍物的关键，因此如何在有限资源中发挥高性能的激光雷达算法成为一大核心问题。

技术实现思路

[0003]目前可行的方法有设计轻量化的3D点云模型、尽可能的加速点云底层计算单元、优化访存、压缩模型等，这些在神经网络理论研究中已被证实可以减少模型的计算量、加快模型的推理、降低模型对硬件资源的消耗等。现阶段针对模型的压缩主要分为两大块，其中之一是模型的剪枝，模型剪枝指通过分析模型结构中层间参数对模型性能的影响，对一些冗余参数进行剪枝，降低模型的计算量，达到压缩模型的目的。另外一个是模型的量化，模型量化指用低比特整形数来表示模型参数，大大减少模型占用的空间，提升模型的推理速度达到压缩模型的目的。从算法原理上讲，点云数据是激光雷达扫描的离散点在物体表面形成的稀疏反射点，导致在点云3D场景中存在很多空白无数据区域，图像是连续像素点构成的稠密图像，因此使用正常的3D卷积必然浪费极大的资源来计算无效区域，于是便有学者研究设计了3D稀疏卷积(3D Sparse Conv)模块来提取稀疏的3D点云特征。不同于正常的2D卷积(2D Conv)模块，这些稀疏的3D特征不需要连续性的滑动卷积核对特征进行计算，而是根据有效的输入特征值确定输出的可能存在位置，形成输入输出数据映射表，根据映射表来计算离散的卷积核，得出最终稀疏的特征图。正是因为3D稀疏卷积模块的特殊性，很少有专门针对3D点云算法的量化方法。
[0004]另外，虽然目前已有相关研究提出了离线的量化方法，在2D图像算法实际工业部署中，最常用的还是8比特的训练后量化算法。但对于点云这种数据分布不确定的三维数据来讲，量化后定点量化模型相对于浮点模型损失性能较大，训练后量化虽然有对称非对称，截断/边界值拟合等优化方法，但是量化对于原数据分布的破坏依然是无可避免的，也因此一般肯定会造成精度的损失。
[0005]因此，本专利技术旨在提供一种针对较为成熟的以3D系数卷积为核心的点云模型在线量化的方法，即量化感知训练(Quant Aware Training，QAT)，在训练中便考虑到量化操作所带来的损失，从而使得训练所得的参数天然适应定点数分布，从而减少量化操作所带来的精度损失，给点云模型量化压缩方向提供了更有效的方法。
[0006]在下文中给出了关于本公开的简要概述，以便提供关于本公开的一些方面的基本理解。但是，应当理解，这个概述并不是关于本公开的穷举性概述。它并不是意图用来确定本公开的关键性部分或重要部分，也不是意图用来限定本公开的范围。其目的仅仅是以简
化的形式给出关于本公开的某些概念，以此作为稍后给出的更详细描述的前序。
[0007]根据本公开的第一方面，提供一种用于3D点云目标检测模型的量化方法，包括：
[0008]S1.统计训练时输入的点云数据的浮点特征值的整体分布并计算原始点云数据与稀疏点云数据之间的映射表；
[0009]S2.计算所述3D点云目标检测模型的3D稀疏卷积模块的稀疏浮点特征值的分布零点和缩放因子以及稀疏浮点权重的分布零点和缩放因子并实时更新所计算的分布零点和缩放因子；
[0010]S3.根据计算出的稀疏浮点特征值的分布零点和缩放因子，将所述稀疏浮点特征值转换为第一稀疏低比特定点数，并根据计算出的稀疏浮点权重的分布零点和缩放因子将所述稀疏浮点权重转换为第二稀疏低比特定点数；
[0011]S4.基于所述第一稀疏低比特定点数和所述第二稀疏低比特定点数卷积得到所述3D点云目标检测模型的3D稀疏卷积模块的卷积输出值；
[0012]S5.将所述3D稀疏卷积模块的卷积输出值反量化到点云数据格式的输出数据；
[0013]S6.基于所述输出数据与输入的点云数据之间的梯度更新所述3D稀疏卷积模块的各层的稀疏浮点权重；以及
[0014]S7.基于更新后的稀疏浮点权重重复上述步骤S2
‑
S6，直至当前训练得到的第一稀疏低比特定点数和第二稀疏低比特定点数的特征分布与前次训练得到的特征分布之间的差异在预定范围内。
[0015]根据本公开的第二方面，提供一种电子设备，包括：一个或多个处理器，以及一个或多个存储器，其上存储有可执行指令，所述可执行指令当由所述一个或多个处理器执行时，使得所述一个或多个处理器执行根据本公开的第一方面所述的方法。
[0016]根据本公开的第三方面，提供一种其上存储有可执行指令的非暂态计算机可读存储介质，所述可执行指令当由一个或多个处理器执行时，使得所述一个或多个处理器执行根据本公开的第一方面所述的方法。
[0017]通过以下参照附图对本专利技术的示例性实施例的详细描述，本专利技术的其它特征及其优点将会变得更为清楚。
附图说明
[0018]构成说明书的一部分的附图描述了本公开的实施例，并且连同说明书一起用于解释本公开的原理。
[0019]参照附图，根据下面的详细描述，可以更加清楚地理解本公开，其中：
[0020]图1是示出根据本公开的示例性实施例的用于3D点云目标检测模型的量化方法的示意图；
[0021]图2是示出实现根据本公开的示例性实施例的用于3D点云目标检测模型的量化方法的配置的框图；以及
[0022]图3是示出根据本公开的示例性实施例的用于3D点云目标检测模型的量化方法的应用示例的框图。
具体实施方式
[0023]将按以下顺序对本专利技术进行描述：
[0024]1.实施例
[0025]2.应用示例
[0026]3.结论
[0027]在下文中，将参照附图详细地描述本公开内容的优选实施例。注意，在本说明书和附图中，有时在不同的附图之间共同使用同一附图标记来表示相同部分或具有相同功能的部分，因而省略其重复说明。在本说明书中，使用相似的标号和字母表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。
[0028]为了便于理解，在附图等中所示的各结构的位置、尺寸及范围等有时不表示实际的位置、尺寸及范围等。因此，所公开的专利技术并不限于附图等所公开的位置、尺寸及范围等。
[0029]1.实施例
[0030]下面将结合图1和图2来详细描述根据本公开的示例性实施例的用于3D点云目标检测模型的量化方法。本领域技术人员能够理解，本专利技术并不限于图中所示的步骤，而是能够根据其来实现用于3D点云目标检测模型的量化方法。
[0031]图1是示出根据本公开的示例性实施例的用于3D点云目标检测模型的量化方法100的示意图。
[0032]在步骤101处，统计训练时输入的点云数据的浮点特征值的整体分布并计算原始点云数据与稀疏点云数据之间的映射表。本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于3D点云目标检测模型的在线量化方法，包括：S1.统计训练时输入的点云数据的浮点特征值的整体分布并计算原始点云数据与稀疏点云数据之间的映射表；S2.计算所述3D点云目标检测模型的3D稀疏卷积模块的稀疏浮点特征值的分布零点和缩放因子以及稀疏浮点权重的分布零点和缩放因子并实时更新所计算的分布零点和缩放因子；S3.根据计算出的稀疏浮点特征值的分布零点和缩放因子，将所述稀疏浮点特征值转换为第一稀疏低比特定点数，并根据计算出的稀疏浮点权重的分布零点和缩放因子将所述稀疏浮点权重转换为第二稀疏低比特定点数；S4.基于所述第一稀疏低比特定点数和所述第二稀疏低比特定点数卷积得到所述3D点云目标检测模型的3D稀疏卷积模块的卷积输出值；S5.将所述3D稀疏卷积模块的卷积输出值反量化到点云数据格式的输出数据；S6.基于所述输出数据与输入的点云数据之间的梯度更新所述3D稀疏卷积模块的各层的稀疏浮点权重；以及S7.基于更新后的稀疏浮点权重重复上述步骤S2
‑
S6，直至当前训练得到的第一稀疏低比特定点数和第二稀疏低比特定点数的特征分布与前次训练得到的特征分布之间的差异在预定范围内。2.根据权利要求1所述的方法，其特征在于，还包括：S8.将训练完成的所述3D稀疏卷积模块的输出数据映射到2D稠密浮点特征值，并输入所述3D点云目标检测模型的2D卷积模块；S9.计算所述2D卷积模块的各层的稠密浮点特征值的分布零点和缩放因子以及稠密浮点权重的分布零点和缩放因子；S10.基于计算出的稠密浮点特征值的分布零点和缩放因子将所述稠密浮点特征值转换为第一稠密低比特定点数，并将所述稠密浮点权重转换为第二稠密低比特定点数；S11.基于所述第一稠密低比特定点数和所述第二稠密低比特定点数卷积得到所述2D卷积模块的卷积输出值；以及S12.将所述2D卷积模块的卷积输出值转换为点云数据格式的输出数据。3.根据权利要求1所述的方法，其特征在于，在所述步骤S2中，收集稀疏浮点特征值和稀疏浮点权重的分布直方图；按分布直方图中不同的截断长度进行截断，得到截断特征；创建所述截断特征的低比特定点数并补充至截断前的样本长度，得到量化特征；迭代求不同截断长度下，截断特征与量化特征间概率分布的相对熵；以及通过如下公式(1)和(2)计算分布零点z和缩放因子s：S＝(F
max
‑
F
min
)/(Q
max
‑
Q
min
)
……
(1)其中，F
max
表示相对熵最小时的截断特征的最大值，
F
min
表示相对熵最小时的截断特征的最小值，Q
max
表示低比特定点数...

【专利技术属性】
技术研发人员：陈义飞，邱中原，刘浩，梁爽，
申请(专利权)人：北京超星未来科技有限公司，
类型：发明
国别省市：