温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本申请公开了一种基于定点数开方的数据输出方法、设备和存储介质,涉及计算机技术领域,所述方法包括:通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字;根据所述有效数字对应的压缩索引,于压缩查找表进行查询,获取...该专利属于深圳市紫晓互动科技有限公司所有,仅供学习研究参考,未经过深圳市紫晓互动科技有限公司授权不得商用。
温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。
本申请公开了一种基于定点数开方的数据输出方法、设备和存储介质,涉及计算机技术领域,所述方法包括:通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字;根据所述有效数字对应的压缩索引,于压缩查找表进行查询,获取...