用于神经网络的缓冲运算电路、芯片及计算装置制造方法及图纸

技术编号:43469847 阅读:17 留言:0更新日期:2024-11-27 13:07
本公开实施例公开了一种用于神经网络的缓冲运算电路、芯片及计算装置,其中,该电路包括:第一预设数量个运算单元、第一预设数量个缓冲单元、输入单元、输出单元和存储器;输入单元确定存储器中存储的输入张量包括的每个数据所属的窗口区域;从存储器中读取输入张量中的数据并输入对应的运算单元;运算单元对接收的数据进行运算,得到运算结果集合,并将运算结果集合输入对应的缓冲单元;输出单元在任意运算单元运算结束时,从对应的缓冲单元获取运算结果集合,并将运算结果集合作为输出张量包括的数据存入存储器。本公开实施例提高了缓冲单元的存储效率,降低了对存储器的访问次数,可以适用各种大小的张量,从而提高了电路应用的普适性。

【技术实现步骤摘要】

本公开涉及集成电路设计,尤其是一种用于神经网络的缓冲运算电路、芯片及计算装置


技术介绍

1、随着人工智能(ai,artificial intelligence)技术的兴起,它对硬件系统的算力要求越来越高。ai加速芯片是专门用于ai算法的芯片,为ai系统提供了高效的算力支持。池化运算(pooling)是ai算法中常见的算子,因为其与卷积(convolution)算子紧密相连,所以对pooling算子的加速是ai加速芯片的重要功能之一,对整个芯片的加速能力具有重要的影响。

2、池化算子的运算,主要是将一个张量(tensor)按照一定的参数设定(如滑动窗口大小、窗口滑动步长)进行采样,然后将采样数据进行一定的运算(例如求最大值、最小值、平均值等),输出一个经过下采样压缩的张量。

3、对于池化算子电路的设计,通常需要解决两个关键问题:

4、第一,在一定的加速性能的要求下,如何降低加速电路占用的硬件资源。因为越多的硬件资源占用,意味着更高的功耗和面积成本。

5、第二,在一定的加速性能的要求下,如何降低加速电路对存储单本文档来自技高网...

【技术保护点】

1.一种用于神经网络的缓冲运算电路,包括:第一预设数量个运算单元、第一预设数量个缓冲单元、输入单元、输出单元和存储器,其中,运算单元和缓冲单元一一对应;

2.根据权利要求1所述的电路,其中,所述第一预设数量个运算单元中的运算单元包括第二预设数量个运算子单元,所述输入张量的每个通道分别对应一个运算子单元,所述第二预设数量个运算子单元中的运算子单元用于对输入的对应通道的数据按照所述预设运算方式进行运算。

3.根据权利要求2所述的电路,其中,所述第一预设数量个缓冲单元中的缓冲单元包括第二预设数量个数据寄存器,每个数据寄存器对应一个运算子单元,所述第二预设数量个数据寄存器...

【技术特征摘要】

1.一种用于神经网络的缓冲运算电路,包括:第一预设数量个运算单元、第一预设数量个缓冲单元、输入单元、输出单元和存储器,其中,运算单元和缓冲单元一一对应;

2.根据权利要求1所述的电路,其中,所述第一预设数量个运算单元中的运算单元包括第二预设数量个运算子单元,所述输入张量的每个通道分别对应一个运算子单元,所述第二预设数量个运算子单元中的运算子单元用于对输入的对应通道的数据按照所述预设运算方式进行运算。

3.根据权利要求2所述的电路,其中,所述第一预设数量个缓冲单元中的缓冲单元包括第二预设数量个数据寄存器,每个数据寄存器对应一个运算子单元,所述第二预设数量个数据寄存器中的每个数据寄存器用于存储对应的运算子单元输出的运算结果。

4.根据权利要求1所述的电路,其中,所述输...

【专利技术属性】
技术研发人员:张旺陈亮赵亦彤
申请(专利权)人:北京后摩智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1