当前位置: 首页 > 专利查询>脸谱公司专利>正文

使用分解的分量数字的浮点乘法硬件制造技术

技术编号:27934186 阅读:26 留言:0更新日期:2021-04-02 14:13
本申请涉及使用分解的分量数字的浮点乘法硬件。一种处理器系统包括一个或更多个逻辑单元,该逻辑单元被配置为接收识别将与第二浮点数相乘的第一浮点数的处理器指令。浮点数各自被分解成一组多个分量数字,其中用于表示每个浮点数的位数大于用于表示每组多个分量数字中的任何分量数字的位数。第一组的分量数字与第二组的分量数字相乘以确定中间乘法结果,将这些中间乘法结果相加在一起以确定表示第一浮点数与第二浮点数相乘的结果的有效结果。

【技术实现步骤摘要】
使用分解的分量数字的浮点乘法硬件专利技术背景使用神经网络可以解决一整类复杂的人工智能问题。许多神经网络需要的一种常见操作是乘法运算,例如,在执行矩阵运算时的乘法运算。由于人工智能问题通常是计算和数据密集型的,所以硬件解决方案通常有利于提高性能。然而,实现浮点乘法运算的硬件是昂贵的。此外,不同的神经网络可能需要不同的数字格式,而这些数字格式又可能各有不同的硬件要求。创建一个兼容多种数字格式并能够高效执行矩阵乘法运算的硬件平台是一项技术挑战。因此,需要一种与多种数字格式兼容而不会引入明显的硬件复杂性和费用的高吞吐量矩阵乘法方案。附图简述在以下详细描述和附图中公开了本专利技术的各种实施例。图1是示出使用神经网络解决人工智能问题的系统的实施例的框图。图2是示出使用神经网络解决人工智能问题的处理元件的实施例的框图。图3是说明用于执行浮点乘法的过程的实施例的流程图。图4是说明用于分解浮点操作数的过程的实施例的流程图。图5是说明使用分量数字(componentnumber)执行浮点乘法的过程的实施例的流程图。图6本文档来自技高网...

【技术保护点】
1.一种处理器系统,包括:/n一个或更多个逻辑单元,其被配置为:/n接收识别将与第二浮点数相乘的第一浮点数的处理器指令;/n将所述第一浮点数分解成第一组多个分量数字,其中用于表示所述第一浮点数的位数大于用于表示所述第一组多个分量数字中的任何分量数字的位数;和/n将所述第二浮点数分解成第二组多个分量数字,其中用于表示所述第二浮点数的位数大于用于表示所述第二组多个分量数字中的任何分量数字的位数;和/n一个或更多个乘法单元,其被配置为:/n将所述第一组中的分量数字与所述第二组中的分量数字相乘以确定中间乘法结果,所述中间乘法结果被相加在一起以确定表示所述第一浮点数与所述第二浮点数相乘的结果的有效结果。...

【技术特征摘要】
20191002 US 16/591,0421.一种处理器系统,包括:
一个或更多个逻辑单元,其被配置为:
接收识别将与第二浮点数相乘的第一浮点数的处理器指令;
将所述第一浮点数分解成第一组多个分量数字,其中用于表示所述第一浮点数的位数大于用于表示所述第一组多个分量数字中的任何分量数字的位数;和
将所述第二浮点数分解成第二组多个分量数字,其中用于表示所述第二浮点数的位数大于用于表示所述第二组多个分量数字中的任何分量数字的位数;和
一个或更多个乘法单元,其被配置为:
将所述第一组中的分量数字与所述第二组中的分量数字相乘以确定中间乘法结果,所述中间乘法结果被相加在一起以确定表示所述第一浮点数与所述第二浮点数相乘的结果的有效结果。


2.根据权利要求1所述的系统,其中所述一个或更多个逻辑单元被配置为识别所述第一浮点数是第一格式,其中用于表示所述第一格式的位数超过所述一个或更多个乘法单元中的每个单独乘法单元的硬件能力所支持的位数。


3.根据权利要求1所述的系统,其中所述一个或更多个乘法单元中的每一个是21位浮点单元。


4.根据权利要求3所述的系统,其中所述21位浮点单元利用1位用于符号位,9位用于指数分量,以及11位用于尾数分量。


5.根据权利要求1所述的系统,其中所述一个或更多个乘法单元中的每一个能够执行FP16和BFloat16浮点乘法运算。


6.根据权利要求1所述的系统,其中所述第一浮点数是32位浮点数,并且其中所述一个或更多个乘法单元的硬件能力不支持仅使用单个乘法运算来执行32位浮点乘法运算。


7.根据权利要求1所述的系统,还包括矩阵计算引擎,所述矩阵计算引擎包括多个向量单元。


8.根据权利要求7所述的系统,其中所述多个向量单元中的每一个包括向量乘法单元和向量加法器单元。


9.根据权利要求8所述的系统,其中所述向量乘法单元包括所述一个或更多个乘法单元。


10.根据权利要求8所述的系统,其中所述向量加法器单元是加法器树。


11.根据权利要求1所述的系统,其中所述第一组多个分量数字中的每个分量数字的和等于所述第一浮点数。


12.根据权利要求1所述的系统,其中所述第一组多个分量数字中的分量数字的尾数分量被规范化,以去除前导零和1位二进制整数。


13.根据权利要求1所述的系统,其中所述第一组多个分量数字包括第一分量数字和第二分量数字,并且其中所述第一分量数字和所述第二分量数字的和等于所述第一浮点数。


14.根据权利要求13所述的系统,其中所述第一分量数字与...

【专利技术属性】
技术研发人员:克里希纳库马尔·纳拉亚南·奈尔阿努普·拉梅什·卡德科尔伊赫桑·基什·阿德斯坦尼·扎德奥利维亚·吴郝宇辰托马斯·马克·乌尔里希拉凯什·科姆拉韦利
申请(专利权)人:脸谱公司
类型:发明
国别省市:美国;US

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1