System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 单个函数执行组合的矩阵乘法和偏置相加操作制造技术_技高网

单个函数执行组合的矩阵乘法和偏置相加操作制造技术

技术编号:40200094 阅读:13 留言:0更新日期:2024-01-27 00:04
执行由指令指定的组合函数。该组合函数包含作为对该组合函数的一个调用的一部分而执行的多个操作。执行组合函数包括执行第一张量和第二张量的矩阵乘法以获得一个或多个中间结果。第二张量包括使用乘数创建的经调整的权重张量。将偏置张量的值相加到一个或多个中间结果以获得组合函数的一个或多个结果。一个或多个结果是输出张量的至少一部分。

【技术实现步骤摘要】
【国外来华专利技术】


技术介绍

1、一个或多个方面一般地涉及促进计算环境内的处理,尤其涉及改进这样的处理。

2、为了增强在数据和/或计算密集的计算环境中的处理,利用协处理器,诸如人工智能加速器(也称为神经网络处理器或神经网络加速器)。这样的加速器提供用于执行例如涉及的计算(诸如对矩阵或张量的计算)的大量计算能力。

3、作为示例,张量计算被用在复杂处理中,包括深度学习,深度学习是机器学习的子集。深度学习或机器学习(人工智能的一方面)用于各种技术中,包括但不限于工程、制造、医疗技术、汽车技术、计算机处理等。

4、深度学习使用对张量数据操作的不同操作序列。每个操作序列需要多次调用加速器或其他处理器,并且使用大量时间和计算能力。因此,寻求与执行这样的操作序列有关的改进。


技术实现思路

1、通过提供用于促进计算环境内的处理的计算机程序产品克服了现有技术的缺点,并且提供附加优点。计算机程序产品包括一个或多个计算机可读存储介质和共同存储在一个或多个计算机可读存储介质上以执行方法的程序指令。所述方法包括执行由指令指定的组合函数。该组合函数包括作为对组合函数的一个调用的一部分而执行的多个操作。执行组合函数包括执行第一张量和第二张量的矩阵乘法以获得一个或多个中间结果。第二张量包括使用乘数创建的经调整的权重张量。将偏置张量的值相加到一个或多个中间结果以获得组合函数的一个或多个结果。一个或多个结果是输出张量的至少一部分。

2、通过将多个操作组合成一个函数,减少了调用处理器执行这些操作的次数。进一步,避免了将中间结果存储到存储器或可由一个或多个处理器外部访问的另一位置中以及从那里重新加载。这提高了处理速度,减少了系统资源的使用并且提高了性能。

3、作为示例,组合函数替换多个分开调用的操作。多个分开调用的操作至少包括,例如,输入张量和权重张量的矩阵乘法,随后是批归一化。在一个示例中,批归一化接收包括输入张量和权重张量的矩阵乘法的至少一个结果、选择乘数和一个或多个选择偏置值的多个输入,并在批归一化中使用多个输入以获得批归一化的至少一个结果。

4、在一个示例中,创建经调整的权重张量,其中,该创建包括例如将权重张量乘以乘数以提供经调整的权重张量。乘数例如用于归一化权重张量。

5、作为示例,一个或多个中间结果被输入到所述相加,而在一个或多个处理器外部可访问的位置中不存储和重新加载该一个或多个中间结果。

6、在一个示例中,第一张量包括将在分类中使用的神经网络的一个或多个特征,并且经调整的权重张量表示神经网络的一个或多个可学习参数。

7、在一个示例中,执行矩阵乘法包括从输入张量的一个或多个向量中选择第一向量并从经调整的权重张量的一个或多个向量中选择第二向量,并且执行第一向量和第二向量的点积以获得输出张量的元素的中间值。作为示例,点积包括第一向量的一个或多个元素与第二向量的一个或多个对应元素的乘积的求和。

8、作为示例,相加偏置张量的值包括将偏置张量的元素的值相加到输出张量的元素的中间值,以提供输出张量的元素的结果值。

9、在一个示例中,执行矩阵乘法包括重复所述选择、执行和将所述值相加一次或多次以获得一个或多个结果值。

10、在此还描述并要求保护与一个或多个方面有关的计算机实施的方法和系统。进一步,本文还描述并可要求保护与一个或多个方面有关的服务。

11、通过在此描述的技术实现附加特征和优点。其他实施例和方面在本文中详细描述,并且被认为是所要求保护的方面的一部分。

本文档来自技高网...

【技术保护点】

1.一种用于促进计算环境内的处理的计算机程序产品,所述计算机程序产品包括:

2.根据权利要求1所述的计算机程序产品,其中,所述组合函数替换多个分开调用的操作,所述多个分开调用的操作至少包括输入张量和权重张量的矩阵乘法,随后是批归一化。

3.根据权利要求2所述的计算机程序产品,其中,所述批归一化接收多个输入,所述多个输入包括所述输入张量和所述权重张量的矩阵乘法的至少一个结果、选择乘数和一个或多个选择偏置值,并且使用批归一化中的所述多个输入以获得所述批归一化的至少一个结果。

4.根据前述权利要求中任一项所述的计算机程序产品,其中,所述方法进一步包括创建所述经调整的权重张量,所述创建包括将权重张量乘以所述乘数以提供所述经调整的权重张量。

5.根据权利要求4所述的计算机程序产品,其中,所述乘数用于归一化所述权重张量。

6.根据前述权利要求中任一项所述的计算机程序产品,其中,所述一个或多个中间结果被输入到所述相加,而在所述一个或多个处理器外部可访问的位置中不存储和重新加载所述一个或多个中间结果。

7.根据前述权利要求中任一项所述的计算机程序产品,其中,所述第一张量包括在分类中使用的神经网络的一个或多个特征,并且其中,所述经调整的权重张量表示所述神经网络的一个或多个可学习参数。

8.根据前述权利要求中任一项所述的计算机程序产品,其中,执行所述矩阵乘法包括:

9.根据权利要求8所述的计算机程序产品,其中,将所述偏置张量的所述值相加包括将所述偏置张量的元素的值相加到所述输出张量的所述元素的所述中间值,以提供所述输出张量的所述元素的结果值。

10.根据权利要求9所述的计算机程序产品,其中,执行所述矩阵乘法包括重复所述选择、所述执行和将所述值相加一次或多次以获得一个或多个结果值。

11.一种用于促进计算环境内的处理的计算机系统,所述计算机系统包括:

12.根据权利要求11所述的计算机系统,其中,所述组合函数替换多个分开调用的操作,所述多个分开调用的操作至少包括输入张量和权重张量的矩阵乘法,随后是批归一化。

13.根据前述权利要求11至12中任一项所述的计算机系统,其中,所述方法进一步包括创建所述经调整的权重张量,所述创建包括将权重张量乘以所述乘数以提供所述经调整的权重张量。

14.根据前述权利要求11至13中任一项所述的计算机系统,其中,执行所述矩阵乘法包括:

15.根据权利要求14所述的计算机系统,其中,将所述偏置张量的所述值相加包括将所述偏置张量的元素的值相加到所述输出张量的所述元素的所述中间值,以提供所述输出张量的所述元素的结果值。

16.一种促进计算环境内的处理的计算机实施的方法,所述计算机实施的方法包括:

17.根据权利要求16所述的计算机实现的方法,其中,所述组合函数替换多个分开调用的操作,所述多个分开调用的操作至少包括输入张量和权重张量的矩阵乘法,随后是批归一化。

18.根据前述权利要求16至17中任一项所述的计算机实现的方法,进一步包括创建所述经调整的权重张量,所述创建包括将权重张量乘以所述乘数以提供所述经调整的权重张量。

19.根据前述权利要求16至18中任一项所述的计算机实现的方法,其中,执行所述矩阵乘法包括:

20.根据权利要求19所述的计算机实现的方法,其中,将所述偏置张量的所述值相加包括将所述偏置张量的元素的值相加到所述输出张量的所述元素的所述中间值,以提供所述输出张量的所述元素的结果值。

...

【技术特征摘要】
【国外来华专利技术】

1.一种用于促进计算环境内的处理的计算机程序产品,所述计算机程序产品包括:

2.根据权利要求1所述的计算机程序产品,其中,所述组合函数替换多个分开调用的操作,所述多个分开调用的操作至少包括输入张量和权重张量的矩阵乘法,随后是批归一化。

3.根据权利要求2所述的计算机程序产品,其中,所述批归一化接收多个输入,所述多个输入包括所述输入张量和所述权重张量的矩阵乘法的至少一个结果、选择乘数和一个或多个选择偏置值,并且使用批归一化中的所述多个输入以获得所述批归一化的至少一个结果。

4.根据前述权利要求中任一项所述的计算机程序产品,其中,所述方法进一步包括创建所述经调整的权重张量,所述创建包括将权重张量乘以所述乘数以提供所述经调整的权重张量。

5.根据权利要求4所述的计算机程序产品,其中,所述乘数用于归一化所述权重张量。

6.根据前述权利要求中任一项所述的计算机程序产品,其中,所述一个或多个中间结果被输入到所述相加,而在所述一个或多个处理器外部可访问的位置中不存储和重新加载所述一个或多个中间结果。

7.根据前述权利要求中任一项所述的计算机程序产品,其中,所述第一张量包括在分类中使用的神经网络的一个或多个特征,并且其中,所述经调整的权重张量表示所述神经网络的一个或多个可学习参数。

8.根据前述权利要求中任一项所述的计算机程序产品,其中,执行所述矩阵乘法包括:

9.根据权利要求8所述的计算机程序产品,其中,将所述偏置张量的所述值相加包括将所述偏置张量的元素的值相加到所述输出张量的所述元素的所述中间值,以提供所述输出张量的所述元素的结果值。

10.根据权利要求9所述的计算机程序产品,其中,执行所述矩阵乘法包括重复所述选择、所...

【专利技术属性】
技术研发人员:C·里彻特纳K·戈帕拉克里希南V·斯里尼瓦桑S·舒克拉S·文卡塔拉马尼
申请(专利权)人:国际商业机器公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1