基于定点数开方的数据输出方法、设备和存储介质技术

技术编号:46620186 阅读:0 留言:0更新日期:2025-10-14 21:15
本申请公开了一种基于定点数开方的数据输出方法、设备和存储介质,涉及计算机技术领域,所述方法包括:通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字;根据所述有效数字对应的压缩索引,于压缩查找表进行查询,获取所述有效数字对应的平方根倒数近似值;基于所述有效数字对应的平方根倒数近似值,进行迭代优化、指数奇偶性调整、余数反馈校正以及边界特化处理,生成有效结果;将所述有效结果进行反归一化处理,生成所述有效结果对应的定点数并输出。本申请通过定点数形式与有效数字形式的转换,克服了相关技术中,定点数开方算法中分布式环境放大误差的技术问题,提升了定点数开方的性能和精确度。

【技术实现步骤摘要】

本申请涉及计算机,尤其涉及一种基于定点数开方的数据输出方法、设备和存储介质


技术介绍

1、在分布式计算环境(如游戏、模拟仿真、物理引擎等)中,跨平台数据计算一致性是一个关键问题。相关技术中,采用定点数直接进行开方运算,导致产生误差,进而导致分布式环境放大误差的问题。

2、上述内容仅用于辅助理解本申请的技术方案,并不代表承认上述内容是现有技术。


技术实现思路

1、本申请的主要目的在于提供一种基于定点数开方的数据输出方法、设备和存储介质,旨在解决相关技术中,采用定点数替代有效数字,但定点数开方算法在实现上受多种因素制约,导致存在精度与性能难以兼顾的技术问题。

2、为实现上述目的,本申请提出一种基于定点数开方的数据输出方法,所述方法包括:

3、通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字;

4、根据所述有效数字对应的压缩索引,于压缩查找表进行查询,获取所述有效数字对应的平方根倒数近似值;

5、基于所述有效数字对应的本文档来自技高网...

【技术保护点】

1.一种基于定点数开方的数据输出方法,其特征在于,所述方法包括:

2.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字的步骤之前,还包括:

3.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字的步骤包括:

4.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述根据所述有效数字对应的压缩索引,于压缩查找表进行查询,获取所述有效数字对应的平方根倒...

【技术特征摘要】

1.一种基于定点数开方的数据输出方法,其特征在于,所述方法包括:

2.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字的步骤之前,还包括:

3.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字的步骤包括:

4.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述根据所述有效数字对应的压缩索引,于压缩查找表进行查询,获取所述有效数字对应的平方根倒数近似值的步骤包括:

5.如权利要求4所述的基于定点数开方的数据输出方法,其特征在于,所述基于所述有效数字对应的压缩索引于所述压缩查找表中查询近似值,获取所述有效数字对应的初始平方根倒数近似值的步骤之前,还包括:

6.如权利要求1所述的基于定点数开方的数据输出方法,其特征在于,所述基于...

【专利技术属性】
技术研发人员:朱广文邹伟
申请(专利权)人:深圳市紫晓互动科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1