【技术实现步骤摘要】
本申请涉及模型量化领域，尤其涉及一种非均匀量化方法、装置、设备和介质。
技术介绍
1、智能车辆的研究过程中需要集成各类神经网络算法模型，在集成神经网络算法模型时，一般会考虑功耗、速度等因素，因此对模型进行量化校准是十分必要的。
2、目前量化技术主要分为均匀量化和非均匀量化，均匀量化通常是指整型数据格式进行计算，非均匀量化通常是指使用浮点格式数据进行计算。
3、在实践中发现，非均匀量化拥有更优异的性能，因此如何提高非均匀量化的量化精度是较为重要的问题。
技术实现思路
1、本申请提供一种非均匀量化方法、装置、设备和介质，用以提高非均匀量化的量化精度。
2、第一方面，本申请提供一种非均匀量化方法，所述方法包括：
3、通过进退位参数控制目标比值的取整方式并生成目标取整结果，所述目标比值为目标数据与目标缩放尺度之间的比值，所述目标缩放尺度为所述目标数据对应的目标区域内相邻数据的距离；
4、根据所述目标取整结果以及所述目标缩放尺度生成所述目标
【技术保护点】
1.一种非均匀量化方法，其特征在于，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，所述通过进退位参数控制目标比值的取整方式并生成目标取整结果，具体包括：
3.根据权利要求1或2所述的方法，其特征在于，所述进退位参数的选择方法包括：
4.根据权利要求3所述的方法，其特征在于，所述根据所述进退位参数生成连续参数，具体包括：
5.根据权利要求4所述的方法，其特征在于，所述连续参数收敛至第一预设范围内的数值时，所述进退位参数选择所述第一预设值，所述连续参数收敛至第二预设范围内的数值时，所述进退位参数选择所述第二预设值
...【技术特征摘要】
1.一种非均匀量化方法，其特征在于，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，所述通过进退位参数控制目标比值的取整方式并生成目标取整结果，具体包括：
3.根据权利要求1或2所述的方法，其特征在于，所述进退位参数的选择方法包括：
4.根据权利要求3所述的方法，其特征在于，所述根据所述进退位参数生成连续参数，具体包括：
5.根据权利要求4所述的方法，其特征在于，所述连续参数收敛至第一预设范围内的数值时，所述进退位参数选择所述第一预设值，所述连续参数收敛至第二预设范围内的数值时，所述进退位参数选择所...
【专利技术属性】
技术研发人员：肖禾，
申请(专利权)人：亿咖通湖北技术有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。