三维堆叠神经网络加速器的产出改进制造技术

技术编号:40092413 阅读:19 留言:0更新日期:2024-01-23 16:25
公开了用于三维堆叠神经网络加速器的方法、系统和装置,包括在计算机存储介质上编码的计算机程序。在一个方面,一种方法包括:获取指定三维堆叠神经网络加速器中的多个组块中的组块为故障组块的数据。三维堆叠神经网络加速器包括多个神经网络管芯,每个神经网络管芯包括各自的多个组块,每个组块具有输入和输出连接。三维堆叠神经网络加速器被配置为通过以下方式处理输入:根据数据流配置将输入路由通过多个组块中的每个组块,以及修改数据流配置,以便将数据流配置中在故障组块之前的组块的输出路由到位于与故障组块不同的神经网络管芯上的、故障组块之上或之下的组块的输入连接。

【技术实现步骤摘要】


技术介绍

1、本说明书一般涉及三维堆叠神经网络加速器。

2、神经网络是机器学习模型,其采用一层或多层非线性单元来预测针对接收到的输入的输出。一些神经网络除输出层外还包括一个或多个隐藏层。每个隐藏层的输出用作网络中下一个层的输入,即下一个隐藏层或输出层。网络的每一层根据各自的一组参数的当前值从接收的输入中生成输出。

3、典型地,神经网络处理系统使用通用图形处理单元、现场可编程门阵列、专用集成电路以及类似的其它硬件来实现神经网络。


技术实现思路

1、通常,本说明书中描述的主题的一个创新方面可以具体体现在以下方法中,该方法包括以下动作:获取指定三维堆叠神经网络加速器中的多个组块(tile)中的组块为故障组块的数据。三维堆叠神经网络加速器包括堆叠在彼此之上的多个神经网络管芯(die),每个神经网络管芯包括各自的多个组块,每个组块具有输入和输出连接,这些输入和输出连接将数据路由进入组块和离开组块。三维堆叠神经网络加速器被配置为通过以下方式处理输入:根据数据流配置将输入路由通过多个组块中的每个组本文档来自技高网...

【技术保护点】

1.一种电路,包括:

2.根据权利要求1所述的电路,还包括不同管芯上的组块之间的感应耦合,使得能够在不同管芯上的组块之间进行通信。

3.根据权利要求1所述的电路,对于每个复用器,还包括耦合到所述复用器的相应的控制器,其中,所述控制器被配置为向所述复用器发送指令,以便为所述复用器指定活跃的输入。

4.根据权利要求1所述的电路,对于每个组块,还包括耦合到该组块上包括的每个复用器的相应的控制器,其中,所述控制器被配置为向该组块上包括的每个复用器发送指令,以便为每个复用器指定活跃的输入。

5.根据权利要求1所述的电路,其中,具有所述故障处理元件的所...

【技术特征摘要】

1.一种电路,包括:

2.根据权利要求1所述的电路,还包括不同管芯上的组块之间的感应耦合,使得能够在不同管芯上的组块之间进行通信。

3.根据权利要求1所述的电路,对于每个复用器,还包括耦合到所述复用器的相应的控制器,其中,所述控制器被配置为向所述复用器发送指令,以便为所述复用器指定活跃的输入。

4.根据权利要求1所述的电路,对于每个组块,还包括耦合到该组块上包括的每个复用器的相应的控制器,其中,所述控制器被配置为向该组块上包括的每个复用器发送指令,以便为每个复用器指定活跃的...

【专利技术属性】
技术研发人员:A·G·诺瓦齐克O·特马姆
申请(专利权)人:谷歌有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1