运算方法、装置及相关产品制造方法及图纸

本公开涉及运算方法、装置及相关产品，所述产品包括控制器单元，所述控制器单元包括：指令缓存单元、指令处理单元和存储队列单元；所述指令缓存单元，用于存储所述人工神经网络运算关联的计算指令；所述指令处理单元，用于对所述计算指令解析得到多个运算指令；所述存储队列单元，用于存储指令队列，该指令队列包括：按该队列的前后顺序待执行的多个运算指令或计算指令。通过以上方法，本公开可以提高相关产品在进行神经网络模型的运算时的运算效率。

【技术实现步骤摘要】
运算方法、装置及相关产品
本公开涉及信息处理
，尤其涉及一种运算方法、装置及相关产品。
技术介绍
在人工智能
，神经网络算法是最近非常流行的一种机器学习算法，在各种领域中都取得了非常好的效果，比如图像识别，语音识别，自然语言处理等。随着神经网络算法的发展，算法的复杂度也越来越高，为了提高识别度，模型的规模也在逐渐增大。
技术实现思路
根据本公开的第一方面，提供了一种矩阵的运算方法，所述方法包括：根据接收的待运算矩阵，获取对应的待运算张量，所述待运算张量包括第一张量和第二张量；根据所述第一张量和所述第二张量的形状，确定神经网络模型的输入数据；将所述输入数据通过所述神经网络模型，根据所述神经网络模型的输出结果，得到所述待运算矩阵的运算结果。在一种可能的实现方式中，根据接收的待运算矩阵，获取对应的第一张量和第二张量，所述待运算张量包括第一张量和第二张量，包括：接收第一矩阵和第二矩阵；根据所述第一矩阵和所述第二矩阵，分别得到对应的第一张量和第二张量。在一种可能的实现方式中，根据所述第一矩阵和所述第二矩阵，分别得到对应的第一张量和第二张量，包括：对所述第一矩阵和所述第二矩阵分别进行相同的维度扩展，得到对应的第一张量和第二张量。在一种可能的实现方式中，根据所述第一张量和所述第二张量的形状，确定神经网络模型的输入数据，包括：将所述第一张量作为神经网络模型的初始输入张量，所述第二张量作为神经网络模型的初始过滤器张量，得到所述神经网络模型的初始输入数据；根据所述初始输入张量和所述初始过滤器张量之间的比较结果，确定所述神经网络模型的输入数据。在一种可能的实现方式中，根据所述初始输入张量和所述初始过滤器张量之间的比较结果，确定所述神经网络模型的输入数据，包括：读取所述初始输入张量的批处理数目；读取所述初始过滤器张量的输出通道数目；根据所述批处理数目和所述输出通道数目的大小关系，确定所述神经网络模型的输入数据。在一种可能的实现方式中，根据所述批处理数目和所述输出通道数目的大小关系，确定所述神经网络模型的输入数据，包括：在所述输出通道数目与所述批处理数目之差不小于阈值时，对所述初始输入数据执行调换操作，得到所述神经网络模型的输入数据；在所述输出通道数目与所述批处理数目之差小于阈值时，将所述初始输入数据作为所述神经网络模型的输入数据。在一种可能的实现方式中，对所述初始输入数据执行调换操作，得到所述神经网络模型的输入数据，包括：将所述初始输入张量作为所述神经网络模型的过滤器张量，将所述初始过滤器张量作为所述神经网络模型的输入张量，得到所述神经网络模型的输入数据。在一种可能的实现方式中，将所述输入数据通过所述神经网络模型，根据所述神经网络模型的输出结果，得到所述待运算矩阵的运算结果，包括：将所述输入数据通过所述神经网络模型，得到所述神经网络模型的输出结果；根据矩阵运算的维度要求，提取所述输出结果中相应维度的数据，得到所述待运算矩阵的运算结果。根据本公开的第二方面，提供了一种矩阵的运算装置，包括：张量获取单元，用于根据接收的待运算矩阵，获取对应的待运算张量，所述待运算张量包括第一张量和第二张量；输入数据确定单元，用于根据所述第一张量和所述第二张量的形状，确定神经网络模型的输入数据；运算单元，用于将所述输入数据通过所述神经网络模型，根据所述神经网络模型的输出结果，得到所述待运算矩阵的运算结果。在一种可能的实现方式中，所述张量获取单元用于：接收第一矩阵和第二矩阵；根据所述第一矩阵和所述第二矩阵，分别得到对应的第一张量和第二张量。在一种可能的实现方式中，所述张量获取单元进一步用于：对所述第一矩阵和所述第二矩阵分别进行相同的维度扩展，得到对应的第一张量和第二张量。在一种可能的实现方式中，所述输入数据确定单元用于：将所述第一张量作为神经网络模型的初始输入张量，所述第二张量作为神经网络模型的初始过滤器张量，得到所述神经网络模型的初始输入数据；根据所述初始输入张量和所述初始过滤器张量之间的比较结果，确定所述神经网络模型的输入数据。在一种可能的实现方式中，所述输入数据确定单元进一步用于：读取所述初始输入张量的批处理数目；读取所述初始过滤器张量的输出通道数目；根据所述批处理数目和所述输出通道数目的大小关系，确定所述神经网络模型的输入数据。在一种可能的实现方式中，所述输入数据确定单元进一步用于：在所述输出通道数目与所述批处理数目之差不小于阈值时，对所述初始输入数据执行调换操作，得到所述神经网络模型的输入数据；在所述输出通道数目与所述批处理数目之差小于阈值时，将所述初始输入数据作为所述神经网络模型的输入数据。在一种可能的实现方式中，所述输入数据确定单元进一步用于：将所述初始输入张量作为所述神经网络模型的过滤器张量，将所述初始过滤器张量作为所述神经网络模型的输入张量，得到所述神经网络模型的输入数据。在一种可能的实现方式中，所述运算单元用于：将所述输入数据通过所述神经网络模型，得到所述神经网络模型的输出结果；根据矩阵运算的维度要求，提取所述输出结果中相应维度的数据，得到所述待运算矩阵的运算结果。根据本公开的第三方面，提供了一种矩阵的运算装置，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为执行上述第一方面所述的方法。根据本公开的第四方面，提供了一种非易失性计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现上述第一方面所述的方法。通过将待运算矩阵转化为对应的待运算张量，并根据待运算张量的形状确定神经网络模型的输入数据，从而利用神经网络模型进行矩阵运算，根据本公开的各方面实施例的矩阵的运算方法、装置及相关产品，能够便于硬件设备通过神经网络模型对不对称矩阵进行快速运算，同时由于神经网络模型的输入数据根据张量的形状会进行相应的调整，因此可以降低硬件设备进行矩阵运算时的时间消耗，提升运算效率，增加硬件设备的吞吐量。根据下面参考附图对示例性实施例的详细说明，本公开的其它特征及方面将变得清楚。附图说明包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面，并且用于解释本公开的原理。图1示出根据本公开一实施例的矩阵的运算方法的流程图。图2示出根据本公开一实施例的矩阵的运算方法的流程图。图3示出根据本公开一实施例的矩阵的运算方法的流程图。图4示出根据本公开一实施例的矩阵的运算方法的流程图。图5示出根据本公开一实施例的矩阵的运算方法的流程图。图6示出根据本公开一实施例的矩阵的运算装置的框图。图7示出根本文档来自技高网...

【技术保护点】
1.一种矩阵的运算方法，其特征在于，所述方法包括：/n根据接收的待运算矩阵，获取对应的待运算张量，所述待运算张量包括第一张量和第二张量；/n根据所述第一张量和所述第二张量的形状，确定神经网络模型的输入数据；/n将所述输入数据通过所述神经网络模型，根据所述神经网络模型的输出结果，得到所述待运算矩阵的运算结果。/n

【技术特征摘要】
1.一种矩阵的运算方法，其特征在于，所述方法包括：
根据接收的待运算矩阵，获取对应的待运算张量，所述待运算张量包括第一张量和第二张量；
根据所述第一张量和所述第二张量的形状，确定神经网络模型的输入数据；
将所述输入数据通过所述神经网络模型，根据所述神经网络模型的输出结果，得到所述待运算矩阵的运算结果。


2.根据权利要求1所述的矩阵的运算方法，其特征在于，根据接收的待运算矩阵，获取对应的第一张量和第二张量，所述待运算张量包括第一张量和第二张量，包括：
接收第一矩阵和第二矩阵；
根据所述第一矩阵和所述第二矩阵，分别得到对应的第一张量和第二张量。


3.根据权利要求2所述的矩阵的运算方法，其特征在于，根据所述第一矩阵和所述第二矩阵，分别得到对应的第一张量和第二张量，包括：
对所述第一矩阵和所述第二矩阵分别进行相同的维度扩展，得到对应的第一张量和第二张量。


4.根据权利要求1所述的矩阵的运算方法，其特征在于，根据所述第一张量和所述第二张量的形状，确定神经网络模型的输入数据，包括：
将所述第一张量作为神经网络模型的初始输入张量，所述第二张量作为神经网络模型的初始过滤器张量，得到所述神经网络模型的初始输入数据；
根据所述初始输入张量和所述初始过滤器张量之间的比较结果，确定所述神经网络模型的输入数据。


5.根据权利要求4所述的矩阵的运算方法，其特征在于，根据所述初始输入张量和所述初始过滤器张量之间的比较结果，确定所述神经网络模型的输入数据，包括：
读取所述初始输入张量的批处理数目；
读取所述初始过滤器张量的输出通道数目；
根据所述批处理数目和所述输出通道数目的大小关系，确定所述神经网络模型的输入数据。


6.根据权利要求5所述的矩阵的运算方法，其特征在于，根据所述批处理数目和所述输出通道数目的大小关系，确定所述神经网络模型的输入数据，包括：
在所述输出通道数目与所述批处理数目之差不小于阈值时，对所述初始输入数据执行调换操作，得到所述神经网络模型的输入数据；
在所述输出通道数目与所述批处理数目之差小于阈值时，将所述初始输入数据作为所述神经网络模型的输入数据。


7.根据权利要求6所述的矩阵的运算方法，其特征在于，对所述初始输入数据执行调换操作，得到所述神经网络模型的输入数据，包括：
将所述初始输入张量作为所述神经网络模型的过滤器张量，将所述初始过滤器张量作为所述神经网络模型的输入张量，得到所述神经网络模型的输入数据。


8.根据权利要求1所述的矩阵的运算方法，其特征在于，将所述输入数据通过所述神经网络模型，根据所述神经网络模型的输出结果，得到所述待运算矩阵的运算结果，包括：
将所述输入数据通过所述神经网络模型，得到所述神经网络模型的输出结果；
根据矩阵运算的维度要求，提取所述输出结果中相应维度的数据，得到所述待运算矩阵的运算结果。


9...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：上海;31