一种矩阵乘法加速装置及方法制造方法及图纸

本申请公开了一种矩阵乘法加速装置及方法，装置包括由第一控制开关、矩阵乘法单元及第二控制开关依次连接所形成第一计算路径；以及由第一控制开关通过并行的左矩阵变换单元和右矩阵变换单元与矩阵乘法单元相连接，矩阵乘法单元通过第二控制开关与输出变换相连接所形成第二计算路径，第一计算路径用于直接进行矩阵计算，第二计算路径用于采用预设计算方式进行矩阵计算。本申请通过设置两路计算路径，可以根据矩阵乘法的计算方式对两路计算路径进行灵活切换，这样可以根据矩阵乘法的实际尺寸和部署神经网络模型的嵌入设备确定矩阵乘法自由切换矩阵乘法所采用的计算路径，提高了矩阵乘法加速器的灵活性。了矩阵乘法加速器的灵活性。了矩阵乘法加速器的灵活性。

【技术实现步骤摘要】
一种矩阵乘法加速装置及方法


[0001]本申请涉及计算机
，特别涉及一种矩阵乘法加速装置及方法。

技术介绍

[0002]在深度神经网络的推理过程中，矩阵乘法是一个主要的运算类型，并且其他常见的算子类型也可以转换位矩阵乘法，例如，卷积运算，其可以通过Img2col变换转换为矩阵乘法。从而矩阵乘法往往成为限制神经网络性能的瓶颈所在。
[0003]采用加速器辅助运算是当前常用的一种加速方式。现有的加速方式有完全舍弃矩阵乘法的方式和关闭部分乘累加树的方式；完全舍弃矩阵乘法的方式虽然可避免矩阵乘法的限制，但是需要设计专用的加法网络算法，无法部分现有的神经网络结构。关闭部分乘累加树的方式虽然在一定程度上节约了矩阵乘法的功耗，但是会降低矩阵乘法的处理速度，进而影响神经网络的处理速度。
[0004]因而现有技术还有待改进和提高。

技术实现思路

[0005]本申请要解决的技术问题在于，针对现有技术的不足，提供一种矩阵乘法加速装置及方法，加速装置通过配置第一计算路径和第二计算路径，通过第一计算路径和第二计算路径可以直接进行矩阵本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种矩阵乘法加速装置，其特征在于，所述的装置包括：第一控制开关、左矩阵变换单元、右矩阵变换单元、矩阵乘法单元、第二控制开关以及输出矩阵变换单元；其中，所述第一控制开关、矩阵乘法单元以及第二控制开关依次连接形成第一计算路径；第一控制开关通过并行的左矩阵变换单元和右矩阵变换单元与矩阵乘法单元相连接，所述矩阵乘法单元通过第二控制开关与输出变换相连接以形成第二计算路径，所述第一计算路径用于直接进行矩阵乘法计算，所述第二计算路径用于采用预设计算方式进行矩阵乘法计算。2.根据权利要求1所述矩阵乘法加速装置，其特征在于，所述预设计算方式包括Strassen算法方式和/或Winograd算法方式。3.根据权利要求1所述矩阵乘法加速装置，其特征在于，所述左矩阵变换单元用于读取所述预设计算方式对应的左变换矩阵，并通过所述左变换矩阵对左矩阵进行矩阵变换，右矩阵变换单元用于读取所述预设计算方式对应的右变换矩阵，并通过所述右变换矩阵对右矩阵进行矩阵变换。4.根据权利要求3所述矩阵乘法加速装置，其特征在于，所述左矩阵变换单元、所述右矩阵变换单元及所述输出矩阵变换单元均通过加法计算和移位计算进行矩阵变换。5.根据权利要求1所述矩阵乘法加速装置，其特征在于，所述第一控制开关的工作状态与所述第二控制开关的工作状态相同，其中，当第一控制开关处于与左矩阵变换单元和右矩阵变换单元相连通状态时，第二控制开关处于与输出矩阵变换单元相连通状态。6.根据权利要求1或5所述矩阵乘法加速装置，其特征在于，所述第一控制开关和所述第二控制开关的工作状态均为基于矩阵乘法加速装置接收到的矩阵乘法对应的矩阵计算方式确定的。7.一种矩阵乘法...

【专利技术属性】
技术研发人员：赛金乾，南天琦，
申请(专利权)人：珠海市欧冶半导体有限公司，
类型：发明
国别省市：