下载一种浮点数据反量化及量化的方法和设备的技术资料

文档序号:24409093

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明提供了一种浮点数据反量化及量化的方法和设备,该方法包括以下步骤:将存储器中的INT8数据转换成浮点数据;提取浮点数据中的指数得到指数矩阵并将指数矩阵中的最大值存储到数据存储器;响应于指数矩阵中的值不均为0,基于最大值得到移位矩阵;基于...
该专利属于苏州浪潮智能科技有限公司所有,仅供学习研究参考,未经过苏州浪潮智能科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。