精度转换方法及装置、数据处理方法、处理器、电子设备制造方法及图纸

一种精度转换方法及装置、数据处理方法、处理器、电子设备和非瞬时性计算机可读存储介质。该精度转换方法包括：获取输入参数，其中，输入参数为浮点数；根据输入参数的尾数部分中的第a+1位，对输入参数进行至少两次精度转换，得到输出参数，其中，输出参数的尾数位数为a，a为正整数；其中，在每次精度转换中，精度转换前的参数的尾数位数大于精度转换后的参数的尾数位数。该精度转换方法可以继续复用原有的包括多次精度转换的精度转换算子，使得多次精度转换的结果与一次精度转换的结果相同，从而以最低成本消除误差，无需提供新的与一次精度转换结果无误差的精度转换算子，降低研发成本。

【技术实现步骤摘要】

本公开的实施例涉及一种精度转换方法、数据处理方法、处理器、精度转换装置、电子设备和非瞬时性计算机可读存储介质。

技术介绍

1、浮点数(float point，fp)主要用于表示小数，通常由三部分组成，即符号(sign)位、指数(exponent)部分和尾数(mantissa)部分，该指数部分也可以称为阶码部分。例如，浮点数v通常可以表示为如下形式：

2、

3、其中，符号位s可以为1比特，决定浮点数v是负数还是正数；m表示尾数部分，尾数部分可以包括多个比特位，其为一个二进制小数形式，定义了该浮点数的精度；e表示指数（也称阶码值），用于对浮点数加权，体现了浮点数v中小数点的位置，定义了该浮点数的取值范围。

技术实现思路

1、本公开至少一实施例提供一种精度转换方法，包括：获取输入参数，其中，所述输入参数为浮点数；根据所述输入参数的尾数部分中的第a+1位，对所述输入参数进行至少两次精度转换，得到输出参数，其中，所述输出参数的尾数位数为a，a为正整数；其中，在每次精度转换中，精度转换前的参数的尾本文档来自技高网...

【技术保护点】

1.一种精度转换方法，包括：

2.根据权利要求1所述的精度转换方法，其中，所述至少两次精度转换包括第一次精度转换和第二次精度转换，

3.根据权利要求2所述的精度转换方法，其中，根据所述输入参数的尾数部分中的第a+1位，对所述输入参数进行所述第一次精度转换，得到中间参数，包括：

4.根据权利要求2所述的精度转换方法，其中，根据所述输入参数的尾数部分中的第a+1位，对所述输入参数进行所述第一次精度转换，得到中间参数，包括：

5.根据权利要求3或4所述的精度转换方法，其中，所述第一舍入规则指示响应于所述输入参数的尾数部分中的第b+1位为所述第一值...

【技术特征摘要】

1.一种精度转换方法，包括：

2.根据权利要求1所述的精度转换方法，其中，所述至少两次精度转换包括第一次精度转换和第二次精度转换，

3.根据权利要求2所述的精度转换方法，其中，根据所述输入参数的尾数部分中的第a+1位，对所述输入参数进行所述第一次精度转换，得到中间参数，包括：

4.根据权利要求2所述的精度转换方法，其中，根据所述输入参数的尾数部分中的第a+1位，对所述输入参数进行所述第一次精度转换，得到中间参数，包括：

5.根据权利要求3或4所述的精度转换方法，其中，所述第一舍入规则指示响应于所述输入参数的尾数部分中的第b+1位为所述第一值，将所述输入参数的尾数部分中第1位至第b位直接作为所述中间参数的尾数部分。

6.根据权利要求2所述的精度转换方法，其中，根据所述输入参数的尾数部分中的第a+1位，对所述中间参数进行所述第二次...

【专利技术属性】
技术研发人员：请求不公布姓名，请求不公布姓名，请求不公布姓名，
申请(专利权)人：北京壁仞科技开发有限公司，
类型：发明
国别省市：