具有再量化电路的神经网络硬件加速器电路制造技术

技术编号:40955903 阅读:14 留言:0更新日期:2024-04-18 20:32
本公开的各实施例涉及具有再量化电路的神经网络硬件加速器电路。卷积神经网络包括卷积电路系统。卷积电路系统对输入张量值执行卷积操作。所述卷积神经网络包括再量化电路系统,再量化电路系统将从所述卷积电路系统输出的卷积值再量化。

【技术实现步骤摘要】

本公开通常涉及在传感器系统中实施的卷积神经网络。


技术介绍

1、深度学习算法在涉及识别、标识和/或分类任务的众多应用中提升了非常高的性能,然而,这种进步可能以大量使用处理能力为代价。因此,其采用可能会因缺乏低成本和节能解决方案的可用性而受到阻碍。因此,在嵌入式设备上部署深度学习应用时,严格的性能规范可能与功耗和能耗方面的严格限制并存。


技术实现思路

1、本公开的实施例提供了一种神经网络,该神经网络利用神经网络的层之间的张量数据的再量化。张量数据可以最初以第一量化格式量化并且提供给神经网络的第一层以进行处理。在第一层处理了量化张量数据之后,数据被传递给再量化单元或电路。再量化单元将数据再量化为相同的量化格式、新的量化格式或相同的量化格式和新的量化格式两者。再量化数据接着被传递给神经网络的下一层。

2、再量化过程提供了许多益处。在某些情况下,如果与前一层相比,缩放和偏移等量化因子发生变化,则神经网络的层、过程或单元可以更有效地处理数据。在某些情况下,如果利用完全不同的量化格式,则神经网络的层、过程或单本文档来自技高网...

【技术保护点】

1.一种卷积神经网络,包括:

2.根据权利要求1所述的卷积神经网络,还包括第二再量化电路系统,所述第二再量化电路系统被耦合到所述卷积电路系统,并且被配置为通过对所述卷积值执行第二量化过程来生成第二输出量化格式的多个第二量化输出值。

3.根据权利要求2所述的卷积神经网络,其中所述第一输出量化格式为缩放/偏移量化格式,并且所述第二输出量化格式为定点量化格式。

4.根据权利要求1所述的卷积神经网络,其中所述输入量化格式为缩放/偏移格式,并且所述第一输出量化格式为所述缩放/偏移量化格式。

5.根据权利要求1所述的卷积神经网络,其中所述输入量化格式为...

【技术特征摘要】

1.一种卷积神经网络,包括:

2.根据权利要求1所述的卷积神经网络,还包括第二再量化电路系统,所述第二再量化电路系统被耦合到所述卷积电路系统,并且被配置为通过对所述卷积值执行第二量化过程来生成第二输出量化格式的多个第二量化输出值。

3.根据权利要求2所述的卷积神经网络,其中所述第一输出量化格式为缩放/偏移量化格式,并且所述第二输出量化格式为定点量化格式。

4.根据权利要求1所述的卷积神经网络,其中所述输入量化格式为缩放/偏移格式,并且所述第一输出量化格式为所述缩放/偏移量化格式。

5.根据权利要求1所述的卷积神经网络,其中所述输入量化格式为缩放/偏移格式,并且所述第一输出量化格式为定点量化格式。

6.根据权利要求1所述的卷积神经网络,其中所述输入量化格式为定点量化格式,并且所述第一输出量化格式为缩放/偏移量化格式。

7.根据权利要求1所述的卷积神经网络,其中所述输入量化格式为定点量化格式,并且所述第一输出量化格式为所述定点量化格式。

8.根据权利要求1所述的卷积神经网络,还包括:

9.根据权利要求8所述的卷积神经网络,还包括移位器,所述移位器被耦合在所述减法器与所述卷积电路系统之间,并且被配置为在所述卷积操作之前调整所述量化输入值的位数。

10.根据权利要求1所述的卷积神经网络,还包括池化电路系统,所述池化电路系统被配置为通过对多个第二量化输入值执行池化操作来生成多个池化值;以及

11.根据权利要求1所述的卷积神经网络,还包括激活电路系统,所述激活电路系统被配置为通过对多个第二量化输入值执行激活操作来生成多个激活值;以及

12.一种方法,包括:

13.根据权利要求12所述的方法,其中所述第一操作为卷积操作。

14...

【专利技术属性】
技术研发人员:G·德索利S·P·辛格T·勃伊施
申请(专利权)人:意法半导体股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1