【技术实现步骤摘要】
本专利技术涉及人工智能，具体而言，涉及一种运用正则化手段减小神经网络模型量化误差的方法及装置。
技术介绍
1、感知模块在智能驾驶域控制器中，有着举足轻重的地位，感知模块接收摄像头等传感器采集的视频、点云等信号，通过神经网络模型的预处理、推理和解码等操作，输出对周围环境的感知结果，供后续融合和规划控制使用。
2、通常，在pc端用浮点型(float32)数据表征的模型，会通过一个名为“量化”的操作，转化为以整型(int8)数据表征的模型，并部署到嵌入式设备上。量化过程会造成精度截断(32位->8位)，从而造成量化损失，影响模型部署精度和后续环节的效果。而目前尚无手段可提升模型对量化误差的抗干扰能力。
技术实现思路
1、本专利技术实施例提供了一种运用正则化手段减小神经网络模型量化误差的方法及装置，以解决现有技术中模型在量化过程中会造成精度截断，从而造成量化损失，进而影响模型部署精度和后续环节的效果，而目前尚无有效手段可以提升模型对量化误差的抗干扰能力的技术问题。
2...
【技术保护点】
1.一种运用正则化手段减小神经网络模型量化误差的方法，其特征在于，所述运用正则化手段减小神经网络模型量化误差的方法包括：
2.根据权利要求1所述的运用正则化手段减小神经网络模型量化误差的方法，其特征在于，所述对模型目标区间进行分析，确定模型目标区间，包括：
3.根据权利要求1所述的运用正则化手段减小神经网络模型量化误差的方法，其特征在于，所述运用正则化手段和线性变换算法对待量化的模型进行量化改造，包括：
4.根据权利要求3所述的运用正则化手段减小神经网络模型量化误差的方法，其特征在于，所述运用正则化手段和线性变换算法对待量化的模型进...
【技术特征摘要】
1.一种运用正则化手段减小神经网络模型量化误差的方法，其特征在于，所述运用正则化手段减小神经网络模型量化误差的方法包括：
2.根据权利要求1所述的运用正则化手段减小神经网络模型量化误差的方法，其特征在于，所述对模型目标区间进行分析，确定模型目标区间，包括：
3.根据权利要求1所述的运用正则化手段减小神经网络模型量化误差的方法，其特征在于，所述运用正则化手段和线性变换算法对待量化的模型进行量化改造，包括：
4.根据权利要求3所述的运用正则化手段减小神经网络模型量化误差的方法，其特征在于，所述运用正则化手段和线性变换算法对待量化的模型进行量化改造，还包括：
5.根据权利要求1-4任一项所述的运用正则化手段减小神经网络模型量化误差的方法，其特征在于，所述待量化的模型为预设类型的目标检测模型、目标识别分类模型...
【专利技术属性】
技术研发人员：刘孟白，王子收，
申请(专利权)人：清智汽车科技苏州有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。