下载精度转换方法及装置、数据处理方法、处理器、电子设备的技术资料

文档序号:41675176

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

一种精度转换方法及装置、数据处理方法、处理器、电子设备和非瞬时性计算机可读存储介质。该精度转换方法包括:获取输入参数,其中,输入参数为浮点数;根据输入参数的尾数部分中的第a+1位,对输入参数进行至少两次精度转换,得到输出参数,其中,输出参数...
该专利属于北京壁仞科技开发有限公司所有,仅供学习研究参考,未经过北京壁仞科技开发有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。