【技术实现步骤摘要】
本申请涉及计算机,尤其涉及一种基于定点数开方的数据输出方法、设备和存储介质。
技术介绍
1、在分布式计算环境(如游戏、模拟仿真、物理引擎等)中,跨平台数据计算一致性是一个关键问题。相关技术中,采用定点数直接进行开方运算,导致产生误差,进而导致分布式环境放大误差的问题。
2、上述内容仅用于辅助理解本申请的技术方案,并不代表承认上述内容是现有技术。
技术实现思路
1、本申请的主要目的在于提供一种基于定点数开方的数据输出方法、设备和存储介质,旨在解决相关技术中,采用定点数替代有效数字,但定点数开方算法在实现上受多种因素制约,导致存在精度与性能难以兼顾的技术问题。
2、为实现上述目的,本申请提出一种基于定点数开方的数据输出方法,所述方法包括:
3、通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字;
4、根据所述有效数字对应的压缩索引,于压缩查找表进行查询,获取所述有效数字对应的平方根倒数近似值;
5、基
...【技术保护点】
1.一种基于定点数开方的数据输出方法,其特征在于,所述方法包括:
2.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字的步骤之前,还包括:
3.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字的步骤包括:
4.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述根据所述有效数字对应的压缩索引,于压缩查找表进行查询,获取所述有
...【技术特征摘要】
1.一种基于定点数开方的数据输出方法,其特征在于,所述方法包括:
2.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字的步骤之前,还包括:
3.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字的步骤包括:
4.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述根据所述有效数字对应的压缩索引,于压缩查找表进行查询,获取所述有效数字对应的平方根倒数近似值的步骤包括:
5.如权利要求4所述的基于定点数开方的数据输出方法,其特征在于,所述基于所述有效数字对应的压缩索引于所述压缩查找表中查询近似值,获取所述有效数字对应的初始平方根倒数近似值的步骤之前,还包括:
6.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述基于...
【专利技术属性】
技术研发人员:朱广文,邹伟,
申请(专利权)人:深圳市紫晓互动科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。