一种用于3D点云目标检测模型的在线量化方法、电子设备和可读存储介质技术

本公开涉及一种用于3D点云目标检测模型的在线量化方法，包括：根据计算出的稀疏浮点特征值的分布零点和缩放因子，将所述稀疏浮点特征值转换为第一稀疏低比特定点数，并根据计算出的稀疏浮点权重的分布零点和缩放因子将所述稀疏浮点权重转换为第二稀疏低比特定点数；基于所述第一稀疏低比特定点数和所述第二稀疏低比特定点数卷积得到所述3D点云目标检测模型的3D稀疏卷积模块的卷积输出值；将所述3D稀疏卷积模块的卷积输出值反量化到点云数据格式的输出数据；基于所述输出数据与输入的点云数据之间的梯度更新所述3D稀疏卷积模块的各层的稀疏浮点权重。的各层的稀疏浮点权重。的各层的稀疏浮点权重。

【技术实现步骤摘要】
一种用于3D点云目标检测模型的在线量化方法、电子设备和可读存储介质


[0001]本公开涉及人工智能领域，具体来说，涉及神经网格模型量化领域，更具体地，本公开涉及用于点云目标检测模型的在线量化方法。

技术介绍

[0002]在高级别自动驾驶感知方案中，基于激光雷达的3D目标检测算法成为精准感知周围障碍物的关键，因此如何在有限资源中发挥高性能的激光雷达算法成为一大核心问题。

技术实现思路

[0003]目前可行的方法有设计轻量化的3D点云模型、尽可能的加速点云底层计算单元、优化访存、压缩模型等，这些在神经网络理论研究中已被证实可以减少模型的计算量、加快模型的推理、降低模型对硬件资源的消耗等。现阶段针对模型的压缩主要分为两大块，其中之一是模型的剪枝，模型剪枝指通过分析模型结构中层间参数对模型性能的影响，对一些冗余参数进行剪枝，降低模型的计算量，达到压缩模型的目的。另外一个是模型的量化，模型量化指用低比特整形数来表示模型参数，大大减少模型占用的空间，提升模型的推理速度达到压缩模型的目的。从算法原理上讲，点云数据是激光雷达扫描的离散点在物体表本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于3D点云目标检测模型的在线量化方法，包括：S1.统计训练时输入的点云数据的浮点特征值的整体分布并计算原始点云数据与稀疏点云数据之间的映射表；S2.计算所述3D点云目标检测模型的3D稀疏卷积模块的稀疏浮点特征值的分布零点和缩放因子以及稀疏浮点权重的分布零点和缩放因子并实时更新所计算的分布零点和缩放因子；S3.根据计算出的稀疏浮点特征值的分布零点和缩放因子，将所述稀疏浮点特征值转换为第一稀疏低比特定点数，并根据计算出的稀疏浮点权重的分布零点和缩放因子将所述稀疏浮点权重转换为第二稀疏低比特定点数；S4.基于所述第一稀疏低比特定点数和所述第二稀疏低比特定点数卷积得到所述3D点云目标检测模型的3D稀疏卷积模块的卷积输出值；S5.将所述3D稀疏卷积模块的卷积输出值反量化到点云数据格式的输出数据；S6.基于所述输出数据与输入的点云数据之间的梯度更新所述3D稀疏卷积模块的各层的稀疏浮点权重；以及S7.基于更新后的稀疏浮点权重重复上述步骤S2
‑
S6，直至当前训练得到的第一稀疏低比特定点数和第二稀疏低比特定点数的特征分布与前次训练得到的特征分布之间的差异在预定范围内。2.根据权利要求1所述的方法，其特征在于，还包括：S8.将训练完成的所述3D稀疏卷积模块的输出数据映射到2D稠密浮点特征值，并输入所述3D点云目标检测模型的2D卷积模块；S9.计算所述2D卷积模块的各层的稠密浮点特征值的分布零点和缩放因子以及稠密浮点权重的分布零点和缩放因子；S10.基于计算出的稠密浮点特征值的分布零点和缩放因子将所述稠密浮点特征值转换为第一稠密低比特定点数，并将所述稠密浮点权重转换为第二稠密低比特定点数；S11.基于所述第一稠密低比特定点数和所述第二稠密低比特定点数卷积得到所述2D卷积模块的卷积输出值；以及S12.将所述2D卷积模块的卷积输出值转换为点云数据格式的输出数据。3.根据权利要求1所述的方法，其特征在于，在所述步骤S2中，收集稀疏浮点特征值和稀疏浮点权重的分布直方图；按分布直方图中不同的截断长度进行截断，得到截断特征；创建所述截断特征的低比特定点数并补充至截断前的样本长度，得到量化特征；迭代求不同截断长度下，截断特征与量化特征间概率分布的相对熵；以及通过如下公式(1)和(2)计算分布零点z和缩放因子s：S＝(F
max
‑
F
min
)/(Q
max
‑
Q
min
)
……
(1)其中，F
max
表示相对熵最小时的截断特征的最大值，
F
min
表示相对熵最小时的截断特征的最小值，Q
max
表示低比特定点数...

【专利技术属性】
技术研发人员：陈义飞，邱中原，刘浩，梁爽，
申请(专利权)人：北京超星未来科技有限公司，
类型：发明
国别省市：