System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本公开涉及处理器,尤其涉及一种数据处理方法、装置、计算装置、图形处理器和存储介质。
技术介绍
1、目前主流计算机芯片中浮点数计算都遵循相应的标准,例如ieee754标准,无论计算结果是否为规格化数,最后都要将计算结果按照标准规定的格式进行输出。通常,在计算过程中很可能得到一个不符合标准格式的浮点数计算结果,因此需要对其进行处理,以得到一个符合标准格式的计算结果。
2、而根据传统办法进行处理得到的结果,舍入操作对应的粘滞位(sticky bit)既可能出现在计算结果尾数的范围内,也可能出现在计算结果尾数的范围外。这样,运算单元在进行舍入操作时就需要判断两种不同的粘滞位。且如果计算单元同时支持多种目标格式的浮点数计算结果,按照传统方法处理得到的结果,尾数的保留位(guard bit)、近似位(round bit)和粘滞位可能出现在不同的位置,这样运算单元需要根据目标格式进行选择后才能进行舍入操作,增加了硬件资源的负担,降低了硬件的工作效率。因此,亟需一种新型的方法以节省硬件的计算资源和运算时间。
技术实现思路
1、有鉴于此,本公开提出了一种数据处理方法、装置、计算装置、图形处理器和存储介质。
2、根据本公开的一方面,提供了一种数据处理方法。该方法可用于计算单元,计算单元包括运算单元和移位器,该方法可包括:
3、移位器获取运算单元输出的中间计算结果,中间计算结果为浮点数;
4、移位器对中间计算结果的尾数进行移位处理,输出目标计算结果,目标计
5、在一种可能的实现方式中,移位器对中间计算结果的尾数进行移位处理,输出目标计算结果,包括:
6、移位器基于对中间计算结果的尾数向左移动/向右移动的第一位数和对中间计算结果的尾数向右移动的第二位数,确定对中间计算结果的尾数进行移位的目标位数;
7、移位器基于目标位数,对中间计算结果的尾数进行移位处理,输出目标计算结果。
8、在一种可能的实现方式中,第二位数基于中间计算结果的尾数位宽与目标浮点数格式的尾数位宽的差值确定。
9、在一种可能的实现方式中,在中间计算结果的尾数最高位对应的指数与中间计算结果的尾数中前导零数量的差值不小于目标浮点数格式的指数最小值情况下,第一位数基于中间计算结果的尾数中前导零数量确定。
10、在一种可能的实现方式中,在中间计算结果的尾数最高位对应的指数与中间计算结果的尾数中前导零数量的差值小于目标浮点数格式的指数最小值情况下,第一位数基于中间计算结果的尾数最高位对应的指数与目标浮点数格式的指数最小值的差值确定。
11、在一种可能的实现方式中,移位器基于对中间计算结果的尾数向左移动/向右移动的第一位数和对中间计算结果的尾数向右移动的第二位数,确定对中间计算结果的尾数进行移位的目标位数,包括:
12、移位器基于第一位数与第二位数的差值,确定对中间计算结果的尾数进行移位的目标位数。
13、在一种可能的实现方式中,移位器基于目标位数,对中间计算结果的尾数进行移位处理,输出目标计算结果,包括:
14、移位器在目标位数不小于零的情况下,对中间计算结果的尾数向左移动目标位数,输出目标计算结果;否则,
15、移位器在目标位数小于零的情况下,对中间计算结果的尾数向右移动目标位数的绝对值,输出目标计算结果。
16、在一种可能的实现方式中,在对中间计算结果的尾数向左移动的情况下,舍入操作对应的粘滞位为零;
17、在对中间计算结果的尾数向右移动的情况下,舍入操作对应的粘滞位为向右移出的部分。
18、在一种可能的实现方式中,目标浮点数格式为ieee754标准规定的格式。
19、在一种可能的实现方式中,计算单元包括图形处理器gpu的算术逻辑单元alu。
20、根据本公开的另一方面,提供了一种计算装置。该计算装置可包括:
21、移位器,用于获取运算单元输出的中间计算结果,中间计算结果为浮点数,对中间计算结果的尾数进行移位处理,输出目标计算结果,目标计算结果中尾数的最低位为舍入操作对应的近似位;
22、运算单元,用于输出中间计算结果,并对目标计算结果进行舍入操作。
23、在一种可能的实现方式中,对中间计算结果的尾数进行移位处理,输出目标计算结果,包括:
24、基于对中间计算结果的尾数向左移动/向右移动的第一位数和对中间计算结果的尾数向右移动的第二位数,确定对中间计算结果的尾数进行移位的目标位数;
25、基于目标位数,对中间计算结果的尾数进行移位处理,输出目标计算结果。
26、在一种可能的实现方式中,第二位数基于中间计算结果的尾数位宽与目标浮点数格式的尾数位宽的差值确定。
27、在一种可能的实现方式中,在中间计算结果的尾数最高位对应的指数与中间计算结果的尾数中前导零数量的差值不小于目标浮点数格式的指数最小值情况下,第一位数基于中间计算结果的尾数中前导零数量确定。
28、在一种可能的实现方式中,在中间计算结果的尾数最高位对应的指数与中间计算结果的尾数中前导零数量的差值小于目标浮点数格式的指数最小值情况下,第一位数基于中间计算结果的尾数最高位对应的指数与目标浮点数格式的指数最小值的差值确定。
29、在一种可能的实现方式中,基于对中间计算结果的尾数向左移动/向右移动的第一位数和对中间计算结果的尾数向右移动的第二位数,确定对中间计算结果的尾数进行移位的目标位数,包括:
30、基于第一位数与第二位数的差值,确定对中间计算结果的尾数进行移位的目标位数。
31、在一种可能的实现方式中,基于目标位数,对中间计算结果的尾数进行移位处理,输出目标计算结果,包括:
32、在目标位数不小于零的情况下,对中间计算结果的尾数向左移动目标位数,输出目标计算结果;否则,
33、在目标位数小于零的情况下,对中间计算结果的尾数向右移动目标位数的绝对值,输出目标计算结果。
34、在一种可能的实现方式中,在对中间计算结果的尾数向左移动的情况下,舍入操作对应的粘滞位为零;
35、在对中间计算结果的尾数向右移动的情况下,舍入操作对应的粘滞位为向右移出的部分。
36、在一种可能的实现方式中,目标浮点数格式为ieee754标准规定的格式。
37、在一种可能的实现方式中,计算单元包括图形处理器gpu的算术逻辑单元alu。
38、根据本公开的另一方面,提供了一种图形处理器,包括:如上述的计算装置。
39、根据本公开的另一方面,提供了一种数据处理装置,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为在执行所述存储器存储的指令时,实现上述方法。
40、根据本公开本文档来自技高网...
【技术保护点】
1.一种数据处理方法,其特征在于,所述方法用于计算单元,所述计算单元包括运算单元和移位器,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述移位器对所述中间计算结果的尾数进行移位处理,输出目标计算结果,包括:
3.根据权利要求2所述的方法,其特征在于,所述第二位数基于中间计算结果的尾数位宽与目标浮点数格式的尾数位宽的差值确定。
4.根据权利要求2所述的方法,其特征在于,在所述中间计算结果的尾数最高位对应的指数与所述中间计算结果的尾数中前导零数量的差值不小于目标浮点数格式的指数最小值情况下,所述第一位数基于所述中间计算结果的尾数中前导零数量确定。
5.根据权利要求2所述的方法,其特征在于,在所述中间计算结果的尾数最高位对应的指数与中间计算结果的尾数中前导零数量的差值小于目标浮点数格式的指数最小值情况下,所述第一位数基于所述中间计算结果的尾数最高位对应的指数与所述目标浮点数格式的指数最小值的差值确定。
6.根据权利要求2所述的方法,其特征在于,所述移位器基于对所述中间计算结果的尾数向左移动/向右移动的第一位数和对
7.根据权利要求2所述的方法,其特征在于,所述移位器基于所述目标位数,对所述中间计算结果的尾数进行移位处理,输出目标计算结果,包括:
8.根据权利要求1所述的方法,其特征在于,在对所述中间计算结果的尾数向左移动的情况下,所述舍入操作对应的粘滞位为零;
9.根据权利要求3所述的方法,其特征在于,所述目标浮点数格式为IEEE754标准规定的格式。
10.根据权利要求1所述的方法,其特征在于,所述计算单元包括图形处理器GPU的算术逻辑单元ALU。
11.一种计算装置,其特征在于,所述计算装置包括:
12.一种图形处理器,其特征在于,包括:如权利要求11所述的计算装置。
13.一种数据处理装置,其特征在于,包括:
14.一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至10中任意一项所述的方法。
...【技术特征摘要】
1.一种数据处理方法,其特征在于,所述方法用于计算单元,所述计算单元包括运算单元和移位器,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述移位器对所述中间计算结果的尾数进行移位处理,输出目标计算结果,包括:
3.根据权利要求2所述的方法,其特征在于,所述第二位数基于中间计算结果的尾数位宽与目标浮点数格式的尾数位宽的差值确定。
4.根据权利要求2所述的方法,其特征在于,在所述中间计算结果的尾数最高位对应的指数与所述中间计算结果的尾数中前导零数量的差值不小于目标浮点数格式的指数最小值情况下,所述第一位数基于所述中间计算结果的尾数中前导零数量确定。
5.根据权利要求2所述的方法,其特征在于,在所述中间计算结果的尾数最高位对应的指数与中间计算结果的尾数中前导零数量的差值小于目标浮点数格式的指数最小值情况下,所述第一位数基于所述中间计算结果的尾数最高位对应的指数与所述目标浮点数格式的指数最小值的差值确定。
6.根据权利要求2所述的方法,其特征在于,所述移位器基于对所述中间计算结果的尾数向左移动/向右...
【专利技术属性】
技术研发人员:请求不公布姓名,
申请(专利权)人:摩尔线程智能科技北京有限责任公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。