System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 深度学习加速器上的人工神经网络制造技术_技高网

深度学习加速器上的人工神经网络制造技术

技术编号:40444336 阅读:8 留言:0更新日期:2024-02-22 23:05
多个人工神经网络能够被编译为单个工作负载。所述人工神经网络中的每一者的相应处理量能够在运行时改变。所述多个人工神经网络能够被个别地部分编译,且接着稍后根据所述人工神经网络的改变的处理量需求即时编译。所述多个人工神经网络能够部署在深度学习加速器硬件装置上。

【技术实现步骤摘要】
【国外来华专利技术】

本公开大体上涉及存储器,且更特定来说,涉及与深度学习加速器上的人工神经网络相关联的设备及方法。


技术介绍

1、存储器装置通常提供为计算机或其它电子装置中的内部半导体集成电路。存在许多不同类型的存储器,其包含易失性及非易失性存储器。易失性存储器可能需要电力来维持其数据,并且包含随机存取存储器(ram)、动态随机存取存储器(dram)及同步动态随机存取存储器(sdram)等。非易失性存储器可通过在未被供电时保存所存储数据而提供永久性数据,且可包含nand快闪存储器、nor快闪存储器、只读存储器(rom)、电可擦除可编程rom(eeprom)、可擦除可编程rom(eprom)及电阻可变存储器,例如相变随机存取存储器(pcram)、电阻式随机存取存储器(rram)及磁阻式随机存取存储器(mram),等等。

2、存储器还被用作广泛范围的电子应用的易失性及非易失性数据存储器,其包含(但不限于)个人计算机、便携式记忆棒、数码相机、蜂窝电话、便携式音乐播放器(例如mp3播放器、电影播放器)及其它电子装置。可将存储器单元布置成阵列,其中所述阵列用在存储器装置中。


技术实现思路

【技术保护点】

1.一种具有计算机可读指令的非暂时性机器可读媒体,所述指令在由机器执行时使所述机器:

2.根据权利要求1所述的媒体,其进一步包括用以基于输入流水线中的数据来改变所述相应处理量的指令。

3.根据权利要求1所述的媒体,其进一步包括用以基于用户指示来改变所述相应处理量的指令。

4.根据权利要求1所述的媒体,其进一步包括用以在不重新编译所述多个人工神经网络的情况下改变所述相应处理量的指令。

5.根据权利要求1至4中任一权利要求所述的媒体,其进一步包括用以为所述DLA硬件装置上的所述多个人工神经网络创建多个执行调度的指令。

6.根据权利要求5所述的媒体,其中每一执行调度对应于所述多个人工神经网络到所述DLA硬件装置的多个计算单元的相应分布。

7.根据权利要求5所述的媒体,其中至少一个执行调度在所述多个人工神经网络中的至少两者之间共享至少一个权重。

8.根据权利要求5所述的媒体,其中至少一个执行调度在所述多个人工神经网络中的至少两者之间共享至少一个层。

9.根据权利要求5所述的媒体,其进一步包括用以以低级格式存储所述多个执行调度的指令。

10.根据权利要求5所述的媒体,其中用以改变所述相应处理量的所述指令包括在根据所述多个执行调度中的第一执行调度来操作所述DLA硬件装置之后,根据所述多个实施调度中的第二执行调度来操作所述DLA硬件装置的指令。

11.一种方法,其包括:

12.根据权利要求11所述的方法,其中存储所述数据包括存储代表多个经部分编译人工神经网络的所述数据;且

13.根据权利要求11至12中任一权利要求所述的方法,其进一步包括基于输入流水线中的数据或基于用户输入来确定所述第一处理量需求及所述第二处理量需求。

14.一种设备,其包括:

15.根据权利要求14所述的设备,其中所述DLA硬件装置经配置以在执行第一人工神经网络时从所述存储器阵列预取与第二人工神经网络相关联的权重。

16.根据权利要求15所述的设备,其中所述DLA硬件装置经配置以根据从所述第一人工神经网络到所述第二人工神经网络的即将到来的上下文切换来预取所述权重,如由所述第一执行调度所指示。

17.根据权利要求14至16中任一权利要求所述的设备,其中所述DLA硬件装置经配置以根据从所述存储器阵列存取的多个执行调度中的任一者而在所述多个人工神经网络之间以不同方式共享计算资源。

18.根据权利要求17所述的设备,其中所述DLA硬件装置经配置以按不同方式共享计算资源,而无需在所述DLA硬件装置上重新部署所述多个人工神经网络。

19.一种系统,其包括:

20.根据权利要求19所述的系统,其中所述第一传感器、所述第二传感器及所述存储器装置包括雾计算节点;且

...

【技术特征摘要】
【国外来华专利技术】

1.一种具有计算机可读指令的非暂时性机器可读媒体,所述指令在由机器执行时使所述机器:

2.根据权利要求1所述的媒体,其进一步包括用以基于输入流水线中的数据来改变所述相应处理量的指令。

3.根据权利要求1所述的媒体,其进一步包括用以基于用户指示来改变所述相应处理量的指令。

4.根据权利要求1所述的媒体,其进一步包括用以在不重新编译所述多个人工神经网络的情况下改变所述相应处理量的指令。

5.根据权利要求1至4中任一权利要求所述的媒体,其进一步包括用以为所述dla硬件装置上的所述多个人工神经网络创建多个执行调度的指令。

6.根据权利要求5所述的媒体,其中每一执行调度对应于所述多个人工神经网络到所述dla硬件装置的多个计算单元的相应分布。

7.根据权利要求5所述的媒体,其中至少一个执行调度在所述多个人工神经网络中的至少两者之间共享至少一个权重。

8.根据权利要求5所述的媒体,其中至少一个执行调度在所述多个人工神经网络中的至少两者之间共享至少一个层。

9.根据权利要求5所述的媒体,其进一步包括用以以低级格式存储所述多个执行调度的指令。

10.根据权利要求5所述的媒体,其中用以改变所述相应处理量的所述指令包括在根据所述多个执行调度中的第一执行调度来操作所述dla硬件装置之后,根据所述多个实施调度中的第二执行调度来操作所述...

【专利技术属性】
技术研发人员:P·卡利S·蒂库
申请(专利权)人:美光科技公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1