一种矩阵处理装置、方法及处理设备制造方法及图纸

本发明专利技术公开了一种矩阵处理装置、方法及处理设备。深度神经网络在模型训练中除了经常需要载入权值矩阵，还经常需要载入经过平面旋转、倒序、转置等相对原权值矩阵进行了重构处理的矩阵。本发明专利技术通过在脉动阵列中以重构控制器为重复控制单元，通过在特定节点上改变数据的传输方向进行矩阵重构，高效便捷地实现了以向量为基本单位在脉动阵列中的矩阵平面旋转、矩阵转置等一系列以矩阵重构为核心的矩阵处理。

A matrix processing device, method and equipment

【技术实现步骤摘要】
一种矩阵处理装置、方法及处理设备
本专利技术涉及数据处理领域，具体涉及一种矩阵处理装置、矩阵处理方法以及处理设备。
技术介绍
当下互联网和物联网的可用数字数据呈指数级增长，这驱动了对高性能数据分析算法的需求。其中，深度神经网络(DeepNeuralNetwork)在目标识别、自动驾驶和无人机导航等领域具有广阔的应用前景。但是深度神经网络需要进行大量重复数据计算，传统处理架构并不能在数据传输和运算上实现平衡且高效运行，尤其在处理大量乘加运算时，海量数据传输、载入、计算给传统的处理架构带来极大负荷。脉动阵列(SystolicArray)结构是一种由多个处理单元耦合形成的网络，每个重复的处理单元可以独立地进行计算，并将结果传递给周围的处理单元。脉动阵列的结构特性使它能够在消耗较小的内存带宽的基础上实现高的运算吞吐量，这恰好满足了深度神经网络计算的特点需求。在实际应用需求方面，深度神经网络在模型训练中除了经常需要海量载入矩阵，还经常需要载入经过平面旋转、倒序、转置等相对原矩阵进行了重构处理的矩阵。但在已知的现有技术中，用于矩阵重构的方法本文档来自技高网...

【技术保护点】
1.一种矩阵处理装置，提供外部传入的输入矩阵，所述矩阵处理装置包括节点网络，所述节点网络由多个结构相同的节点单元沿第一预设方向和第二预设方向耦合成二维矩阵的形式；每个节点单元均包括第一寄存器和第二寄存器，所述第一寄存器沿第一预设方向上的直线耦合成第一寄存器链，所述第二寄存器沿第二预设方向上的直线耦合成第二寄存器链；组成所述输入矩阵的向量个数与不多于所述第二寄存器链条数，所述向量包括单位元素，所述向量从外部传入时分别进入对应的所述第二寄存器链，所述向量仅沿所述第一寄存器链或所述第二寄存器链传输，第一预设方向与第二预设方向正交；/n其特征在于，所述节点单元还包括重构控制器；在每个节点单元中，所述重...

【技术特征摘要】
1.一种矩阵处理装置，提供外部传入的输入矩阵，所述矩阵处理装置包括节点网络，所述节点网络由多个结构相同的节点单元沿第一预设方向和第二预设方向耦合成二维矩阵的形式；每个节点单元均包括第一寄存器和第二寄存器，所述第一寄存器沿第一预设方向上的直线耦合成第一寄存器链，所述第二寄存器沿第二预设方向上的直线耦合成第二寄存器链；组成所述输入矩阵的向量个数与不多于所述第二寄存器链条数，所述向量包括单位元素，所述向量从外部传入时分别进入对应的所述第二寄存器链，所述向量仅沿所述第一寄存器链或所述第二寄存器链传输，第一预设方向与第二预设方向正交；
其特征在于，所述节点单元还包括重构控制器；在每个节点单元中，所述重构控制器与所述第一寄存器以及所述第二寄存器分别连接；所述重构控制器处于激活状态时，将所述向量中的所有单位元素逐个从所述第二寄存器传入所述第一寄存器，使所述向量的传输方向从沿所述第二寄存器链切换到沿所述第一寄存器链；所述重构控制器处于未激活状态时，所述向量的传输方向保持不变。


2.根据权利要求1所述的矩阵处理装置，其特征在于，还包括译码器，所述译码器与所述节点网络相连；所述节点网络按行逐步读取所述输入矩阵的每一个行向量，或按列逐步读取所述输入矩阵的每一个列向量；所述译码器控制所述节点网络，使每一个向量相对上一个向量进入所述节点网络的时间差为一个时钟周期，一个时钟周期内每个向量最多有一个单位元素进入所述节点网络。


3.根据权利要求1所述的矩阵处理装置，其特征在于，所述节点单元还包括重构传动器；在每个节点单元中，所述重构传动器与所述重构控制器相连；所述重构传动器沿第二预设方向上的直线相互耦合；所述节点网络在第一预设方向上的外边缘由所述节点单元耦合而成，至少一条所述外边缘中的所述重构传动器还沿第一预设方向上的直线相互耦合；所述重构传动器接收外部传入的重构控制信号并传递至目标节点单元，所述重构控制信号用于将所述目标节点单元内的所述重构控制器置于激活状态。


4.根据权利要求3所述的矩阵处理装置，其特征在于，所述重构传动器还接收外部传入的复位控制信号并传递至目标节点单元，所述复位控制信号用于将所述目标节点单元内处于激活状态的重构控制器还原成未激活状态。


5.根据权利要求3或4所述的矩阵处理装置，其特征在于，还包括译码器，所述译码器与所述沿第一预设方向上的直线相互耦合的重构传动器相连，并向其发送所述重构控制信号或所述复位控制信号。


6.根据权利要求1所述的矩阵处理装置，其特征在于，还包括第三预设方向，第三预设方向平分第一预设方向和第二预设方向所成的夹角，上述三个预设方向位于同一个二维平面内；沿第三预设方向上的一条直线排布的多个所述节点单元中的所述重构控制器被固化设定为激活状态。


7.根据权利要求1所述的矩阵处理装置，其特征在于，还包括数据缓存阵列，用于接收传输方向切换过至少一次的输入矩阵，所述数据缓存阵列与所述第一寄存器链连接，所述数据缓存阵列与所述节点网络的...

【专利技术属性】
技术研发人员：闯小明，杨龚轶凡，郑瀚寻，张斌，
申请(专利权)人：深圳芯英科技有限公司，
类型：发明
国别省市：广东;44