矩阵乘法运算装置、量化装置、方法、设备及存储介质制造方法及图纸

技术编号:42045135 阅读:20 留言:0更新日期:2024-07-16 23:27
本申请公开了一种矩阵乘法运算装置、量化装置、方法、设备及存储介质。该矩阵乘法运算装置包括依次连接的输入数据处理模块和加法器模块;输入数据处理模块用于对至少一个输入数据进行处理,输出多组数据;加法器模块包括依次连接的多个加法器层,每一加法器层包括多个加法器;每一加法器层输出的数据的位数各不相同;加法器模块用于根据预设精度位数选取该多个加法器层中的至少一个加法器层对该多组数据进行相加,得到预设精度位数的输出数据。本申请中每一加法器层输出的数据的位数各不相同,根据预设精度位数选取该多个加法器层中的至少一个加法器层对该多组数据进行相加,得到预设精度位数的输出数据,实现整个装置的输出精度选择。

【技术实现步骤摘要】

本申请涉及人工智能,具体涉及一种矩阵乘法运算装置、量化装置、方法、设备及存储介质


技术介绍

1、利用硬件实现人工神经网络模型的计算功能,是当前的一种广泛应用于计算机视觉、智能物联(aiot)系统等多个领域的技术方案。矩阵乘法运算是人工神经网络模型中的一种重要运算方式,例如全连接层中输入数据与权重之间的计算通常是通过矩阵乘法来实现的。相关技术中,人工神经网络模型通常是通过固定精度加法器来实现矩阵乘法运算的。固定精度加法器的精度是固定的,无法提供灵活的动态精度配置,不能适用于不同精度要求的计算任务。

2、上述的陈述仅用于提供与本申请有关的
技术介绍
信息,而不必然地构成现有技术。


技术实现思路

1、本申请的目的是提供一种矩阵乘法运算装置、量化装置、方法、设备及存储介质。为了对披露的实施例的一些方面有一个基本的理解,下面给出了简单的概括。该概括部分不是泛泛评述,也不是要确定关键/重要组成元素或描绘这些实施例的保护范围。其唯一目的是用简单的形式呈现一些概念,以此作为后面的详细说明的序言。

2、根本文档来自技高网...

【技术保护点】

1.一种矩阵乘法运算装置,其特征在于,包括依次连接的输入数据处理模块和加法器模块;

2.根据权利要求1所述的矩阵乘法运算装置,其特征在于,所述输入数据处理模块包括互相连接的乘法器模块和交叉开关模块;

3.根据权利要求1所述的矩阵乘法运算装置,其特征在于,所述至少一个输入数据包括第一数目个输入数据,所述至少一个乘积包括第二数目个乘积,每一所述乘积为第二数目位数据,所述第三数目组数据中的每组数据包括第一数目个第四数目位数据;所述第三数目与所述第四数目的乘积为所述第二数目。

4.根据权利要求3所述的矩阵乘法运算装置,其特征在于,所述多个加法器层中与所述交叉开...

【技术特征摘要】

1.一种矩阵乘法运算装置,其特征在于,包括依次连接的输入数据处理模块和加法器模块;

2.根据权利要求1所述的矩阵乘法运算装置,其特征在于,所述输入数据处理模块包括互相连接的乘法器模块和交叉开关模块;

3.根据权利要求1所述的矩阵乘法运算装置,其特征在于,所述至少一个输入数据包括第一数目个输入数据,所述至少一个乘积包括第二数目个乘积,每一所述乘积为第二数目位数据,所述第三数目组数据中的每组数据包括第一数目个第四数目位数据;所述第三数目与所述第四数目的乘积为所述第二数目。

4.根据权利要求3所述的矩阵乘法运算装置,其特征在于,所述多个加法器层中与所述交叉开关模块连接的第一个加法器层包括第三数目个加法器树,每一所述加法器树的数据处理位数为第四数目,所述第一个加法器层中的各加法器树分别用于一对一地接收并处理所述第三数目组中的各组数据。

5.根据权利要求4所述的矩阵乘法运算装置,其特征在于,所述第一数目为64,所述第二数目为8,所述第三数目为4,所述第四数目为2。

6.根据权利要求5所述的矩阵乘法运算装置,其特征在于,所述多个加法器层包括依次连接的所述第一个加法...

【专利技术属性】
技术研发人员:祖春山
申请(专利权)人:京东方科技集团股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1