一种控制装置及方法制造方法及图纸

一种控制装置及方法，用于降低矩阵乘计算单元的功耗。在本申请中，控制方法由控制装置执行，控制装置中包括计算单元，计算单元中包括N个乘累加单元，方法包括：获取控制信息和计算信息，计算信息指示N个内积运算，N个内积运算与N个乘累加单元一一对应；根据控制信息，生成N个乘累加单元对应的控制信号，将控制信号输入计算单元中；控制信号用于控制M个内积运算对应的M个乘累加单元处于关闭状态、且N个乘累加单元中除M个乘累加单元之外的其他乘累加单元处于开启状态；获得计算单元根据控制信号和计算信息输出的、N个内积运算中除M个内积运算以外的其他内积运算的结果；其中，M和N均为大于1的整数。

【技术实现步骤摘要】

本申请涉及计算机领域，尤其涉及一种控制装置及方法。

技术介绍

1、随着神经网络的发展，算力需求越来越强烈，用于执行神经网络运算的计算密集型的处理器得以快速发展。处理器可以有多种类型，比如，张量处理器(tensor processingunit，tpu)、图形处理器(graphics processing unit，gpu)、神经网络加速器(neural-network processing unit，npu)等。进一步的，处理器中包括用于执行矩阵乘的计算单元(又可称为矩阵乘计算单元)，矩阵乘计算单元在执行矩阵乘的过程中，需要消耗大量的功耗，相应的，处理器的功耗也随之提升。

2、如何降低矩阵乘计算单元的功耗，是目前亟待解决的技术问题。

技术实现思路

1、本申请提供一种控制装置及方法，用于降低矩阵乘计算单元的功耗。

2、第一方面，本申请提供一种控制装置，该控制装置比如是计算设备，或者计算设备中的处理器。

3、该控制装置包括获取单元、计算单元和控制单元，计算单元中包括n个乘累加单本文档来自技高网...

【技术保护点】

1.一种控制装置，其特征在于，包括获取单元、计算单元和控制单元，所述计算单元中包括N个乘累加单元；

2.如权利要求1所述的装置，其特征在于，所述控制信息指示N个控制元素，所述N个控制元素与所述N个乘累加单元一一对应；

3.如权利要求2所述的装置，其特征在于，在所述控制单元根据所述控制信息，生成所述N个乘累加单元对应的控制信号之前，所述获取单元还用于：

4.如权利要求3所述的装置，其特征在于，所述控制信息对应的N个控制元素组成控制矩阵，所述控制矩阵为上三角矩阵、下三角矩阵、对角矩阵或稀疏矩阵。

5.如权利要求1-4中任一项所述的装置，其特征在...

【技术特征摘要】

1.一种控制装置，其特征在于，包括获取单元、计算单元和控制单元，所述计算单元中包括n个乘累加单元；

2.如权利要求1所述的装置，其特征在于，所述控制信息指示n个控制元素，所述n个控制元素与所述n个乘累加单元一一对应；

3.如权利要求2所述的装置，其特征在于，在所述控制单元根据所述控制信息，生成所述n个乘累加单元对应的控制信号之前，所述获取单元还用于：

4.如权利要求3所述的装置，其特征在于，所述控制信息对应的n个控制元素组成控制矩阵，所述控制矩阵为上三角矩阵、下三角矩阵、对角矩阵或稀疏矩阵。

5.如权利要求1-4中任一项所述的装置，其特征在于，所述计算信息用于指示对两个输入矩阵进行矩阵乘运算，所述两个输入矩阵分别是m×n矩阵和n×k矩阵，所述m、n和k均为大于1的整数，m×k＝n。

6.如权利要求1-5中任一项所述的装置，其特征在于，在所述计算单元是2d脉动阵列时，每个乘累加单元中包括一个乘累加器；或者，在所述计算单元是3d脉动阵列时，每个乘累加单元中包括n个乘累加器，n为大于1的整数。

7.如权利要求1-6中任一项所述的装置，其特征在于，所述获取单元在获取控制信息和计算信息时，具体用于：

8.一种控制方法，其特征在于，由控制装置执行，所述控制装置包括计算单元，所述计算单元中包括n个乘累加单元；

9.如权利要求8所述的方法，其特征在于，所述控制信息指示n个控制元素，所...

【专利技术属性】
技术研发人员：胡天驰，沈胜宇，李娟，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：