【技术实现步骤摘要】
神经网络处理器执行乘法运算的方法和神经网络处理器
[0001]本申请要求于2020年11月11日提交的标题为“用于通过重新分配权重半字节来提高面积和功率效率的系统和方法(SYSTEM AND METHOD FOR IMPROVING AREA AND POWER EFFICIENCY BY REDISTRIBUTING WEIGHT NIBBLES)”的第63/112,271号美国临时申请、和于2020年12月22日提交的第17/131,357号美国申请的优先权和权益，所述美国申请的全部内容通过引用包含于此。
[0002]根据本公开的实施例的一个或多个方面涉及处理电路，更具体地，涉及用于以适应离群值并且能够执行整数运算和浮点运算两者的方式执行多组乘法的系统和方法。
技术介绍
[0003]用于神经网络的处理器可执行大量的乘法运算和加法运算，因为被处理的数的大部分可能相对小并且仅离群值的小部分可能相对大，所以乘法运算和加法运算中一些可能对处理资源使用不当。此外，这样的系统中的一些运算可以是整数运算并且一些运算可以是浮点运...
【技术保护点】
【技术特征摘要】
1.一种神经网络处理器执行乘法运算的方法，包括：形成第一乘积集合，第一乘积集合中的每个乘积是第一激活值与第一多个权重中的相应的权重的整数乘积；和/或形成第二乘积集合，第二乘积集合中的每个乘积是第二激活值与第二多个权重中的相应的权重的浮点乘积，形成第一乘积集合的步骤包括：在第一乘法器中将第一激活值与所述第一多个权重中的第一权重的最低有效子字相乘，以形成第一部分乘积，在第二乘法器中将第一激活值与所述第一多个权重中的第一权重的最高有效子字相乘，以形成第二部分乘积，以及将第一部分乘积与第二部分乘积相加，以形成第一乘积集合中的乘积，形成第二乘积集合的步骤包括：在第一乘法器中将第二激活值与所述第二多个权重中的第一权重的尾数的第一子字相乘，以形成第三部分乘积，在第二乘法器中将第二激活值与所述尾数的第二子字相乘，以形成第四部分乘积，以及将第三部分乘积与第四部分乘积相加，以形成第二乘积集合中的乘积。2.根据权利要求1所述的方法，其中，第二激活值是浮点激活值的尾数的半字节。3.根据权利要求1所述的方法，其中，所述尾数的第一子字的有效度与所述尾数的第二子字的有效度之间的差等于所述尾数的第一子字的宽度。4.根据权利要求1所述的方法，其中，将第三部分乘积与第四部分乘积相加的步骤包括在第一偏移加法器中执行偏移加法。5.根据权利要求4所述的方法，其中，第一偏移加法器的偏移等于所述尾数的第一子字的宽度。6.根据权利要求4所述的方法，其中，将第一部分乘积与第二部分乘积相加的步骤包括在第一偏移加法器中执行偏移加法。7.根据权利要求1至权利要求6中的任一项所述的方法，其中，形成第一乘积集合的步骤还包括：在第三乘法器中将第一激活值与所述第一多个权重中的第二权重的最低有效子字相乘，以形成第五部分乘积；在第三乘法器中将第一激活值与所述第一多个权重中的第二权重的最高有效子字相乘，以形成第六部分乘积；以及将第五部分乘积与第六部分乘积相加，以形成第一乘积集合中的乘积。8.根据权利要求1至权利要求6中的任一项所述的方法，其中，形成第一乘积集合的步骤还包括：在第四乘法器中将第一激活值与所述第一多个权重中的第三权重的最低有效子字相乘，以形成第七部分乘积，第三权重具有等于零的最高有效半字节；以及将第七部分乘积与零相加，以形成第一乘积集合中的乘积。9.根据权利要求1至权利要求6中的任一项所述的方法，其中，第一激活值是整数激活
值的最高有效子字。10.根据权利要求9所述的方法，还包括：将第一部分乘积与第二部分乘积的和向左移位等于第一激活值的尺寸的位数。11.一种神经网络处理器，包括：处理电路，处理电路包括第一乘法器和第二乘法器，处理电路被配置为：形成第一乘积集合，第一乘积集合中的每个乘积是第一激活值与第一多个权重中的相应的权重的整数乘积，和/或形成第二乘积集合，第二乘积集合中的每个乘积是第二激活值与第二多个权重中的相应的权重的浮点乘积，形成第一乘积集合的处理包括：在第一乘法器中将第一激活值与所述第一多个权重中的第一权重的最低有效子字相乘，以形成第一部分乘积，在第二乘法器中将第一激活值与所述第一多个权重中的第一权重的最高有效子字相乘，以形成第二部分乘...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。