单个函数执行组合的矩阵乘法和偏置相加操作制造技术

技术编号:40200094 阅读:33 留言:0更新日期:2024-01-27 00:04
执行由指令指定的组合函数。该组合函数包含作为对该组合函数的一个调用的一部分而执行的多个操作。执行组合函数包括执行第一张量和第二张量的矩阵乘法以获得一个或多个中间结果。第二张量包括使用乘数创建的经调整的权重张量。将偏置张量的值相加到一个或多个中间结果以获得组合函数的一个或多个结果。一个或多个结果是输出张量的至少一部分。

【技术实现步骤摘要】
【国外来华专利技术】


技术介绍

1、一个或多个方面一般地涉及促进计算环境内的处理,尤其涉及改进这样的处理。

2、为了增强在数据和/或计算密集的计算环境中的处理,利用协处理器,诸如人工智能加速器(也称为神经网络处理器或神经网络加速器)。这样的加速器提供用于执行例如涉及的计算(诸如对矩阵或张量的计算)的大量计算能力。

3、作为示例,张量计算被用在复杂处理中,包括深度学习,深度学习是机器学习的子集。深度学习或机器学习(人工智能的一方面)用于各种技术中,包括但不限于工程、制造、医疗技术、汽车技术、计算机处理等。

4、深度学习使用对张量数据操作的不同操作序列。每个操作序列需要多次调用加速器或其他处理器,并且使用大量时间和计算能力。因此,寻求与执行这样的操作序列有关的改进。


技术实现思路

1、通过提供用于促进计算环境内的处理的计算机程序产品克服了现有技术的缺点,并且提供附加优点。计算机程序产品包括一个或多个计算机可读存储介质和共同存储在一个或多个计算机可读存储介质上以执行方法的程序指令。所述方法包括执行由本文档来自技高网...

【技术保护点】

1.一种用于促进计算环境内的处理的计算机程序产品,所述计算机程序产品包括:

2.根据权利要求1所述的计算机程序产品,其中,所述组合函数替换多个分开调用的操作,所述多个分开调用的操作至少包括输入张量和权重张量的矩阵乘法,随后是批归一化。

3.根据权利要求2所述的计算机程序产品,其中,所述批归一化接收多个输入,所述多个输入包括所述输入张量和所述权重张量的矩阵乘法的至少一个结果、选择乘数和一个或多个选择偏置值,并且使用批归一化中的所述多个输入以获得所述批归一化的至少一个结果。

4.根据前述权利要求中任一项所述的计算机程序产品,其中,所述方法进一步包括创建所述...

【技术特征摘要】
【国外来华专利技术】

1.一种用于促进计算环境内的处理的计算机程序产品,所述计算机程序产品包括:

2.根据权利要求1所述的计算机程序产品,其中,所述组合函数替换多个分开调用的操作,所述多个分开调用的操作至少包括输入张量和权重张量的矩阵乘法,随后是批归一化。

3.根据权利要求2所述的计算机程序产品,其中,所述批归一化接收多个输入,所述多个输入包括所述输入张量和所述权重张量的矩阵乘法的至少一个结果、选择乘数和一个或多个选择偏置值,并且使用批归一化中的所述多个输入以获得所述批归一化的至少一个结果。

4.根据前述权利要求中任一项所述的计算机程序产品,其中,所述方法进一步包括创建所述经调整的权重张量,所述创建包括将权重张量乘以所述乘数以提供所述经调整的权重张量。

5.根据权利要求4所述的计算机程序产品,其中,所述乘数用于归一化所述权重张量。

6.根据前述权利要求中任一项所述的计算机程序产品,其中,所述一个或多个中间结果被输入到所述相加,而在所述一个或多个处理器外部可访问的位置中不存储和重新加载所述一个或多个中间结果。

7.根据前述权利要求中任一项所述的计算机程序产品,其中,所述第一张量包括在分类中使用的神经网络的一个或多个特征,并且其中,所述经调整的权重张量表示所述神经网络的一个或多个可学习参数。

8.根据前述权利要求中任一项所述的计算机程序产品,其中,执行所述矩阵乘法包括:

9.根据权利要求8所述的计算机程序产品,其中,将所述偏置张量的所述值相加包括将所述偏置张量的元素的值相加到所述输出张量的所述元素的所述中间值,以提供所述输出张量的所述元素的结果值。

10.根据权利要求9所述的计算机程序产品,其中,执行所述矩阵乘法包括重复所述选择、所...

【专利技术属性】
技术研发人员:C·里彻特纳K·戈帕拉克里希南V·斯里尼瓦桑S·舒克拉S·文卡塔拉马尼
申请(专利权)人:国际商业机器公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1