温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本发明提供一种提升低比特位模型精度的方法,所述方法根据已经收敛的全精度模型或8bit模型进行实际数据的测试,统计和分析每一层的feature分布情况,得到一个更合理的clip值,从而降低后续量化模型带来的精度损失,试验证明,该方法对那些和默...该专利属于北京君正集成电路股份有限公司所有,仅供学习研究参考,未经过北京君正集成电路股份有限公司授权不得商用。
温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本发明提供一种提升低比特位模型精度的方法,所述方法根据已经收敛的全精度模型或8bit模型进行实际数据的测试,统计和分析每一层的feature分布情况,得到一个更合理的clip值,从而降低后续量化模型带来的精度损失,试验证明,该方法对那些和默...