System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 用于深度神经网络体系结构中的推理处理的稀疏性感知数据储存器制造技术_技高网
当前位置: 首页 > 专利查询>英特尔公司专利>正文

用于深度神经网络体系结构中的推理处理的稀疏性感知数据储存器制造技术

技术编号:40478364 阅读:4 留言:0更新日期:2024-02-26 19:13
系统、装置和方法可提供从存储器预取压缩数据和稀疏性位图以将压缩数据存储在解码缓冲器中的技术,其中压缩数据与多个张量相关联,其中压缩数据采用压缩格式。该技术将压缩数据与稀疏性位图对齐,以生成解码后的数据,并且将解码后的数据提供给多个处理元件。

【技术实现步骤摘要】
【国外来华专利技术】

实施例概括而言涉及一种稀疏性感知数据储存器(datastore),该数据储存器能够对齐稀疏性位图和稀疏压缩数据,以便将数据高效地移动到包括处理元件(processingelement,pe)的pe阵列中。更具体而言,稀疏性感知数据储存器通过在将解码的数据分发到pe阵列之前在每个个体存储元件内执行稀疏性解码,增加了pe阵列上的压缩数据的重用。


技术介绍

1、ai应用导致了新开发的神经网络体系结构和硬件系统的激增。硬件系统执行神经网络来加速解决复杂的现实世界问题,并且使得机器能够执行决策过程和动作。这种神经网络体系结构和硬件系统可能需要大量的能量。例如,数据移动和解码可能会显著增大能量成本,从而导致成本增大以及与加热相关的性能缺陷。通过加速器为网络层分发的激活和权重数据的量由编译器驱动,该编译器确定数据移动的顺序,以获得最优能量。


技术实现思路

【技术保护点】

1.一种计算系统,包括:

2.如权利要求1所述的计算系统,其中,所述逻辑用于:

3.如权利要求1至2中的任一项所述的计算系统,其中:

4.如权利要求1至2中的任一项所述的计算系统,其中:

5.如权利要求1所述的计算系统,其中:

6.如权利要求1至5中的任一项所述的计算系统,其中,所述逻辑用于:

7.一种半导体装置,包括:

8.如权利要求7所述的装置,其中,所述逻辑用于:

9.如权利要求7至8中的任一项所述的装置,其中:

10.如权利要求7至8中的任一项所述的装置,其中:

11.如权利要求7所述的装置,其中:

12.如权利要求7至11中的任一项所述的装置,其中,所述逻辑用于:

13.如权利要求7至12中的任一项所述的装置,其中,所述逻辑包括位于所述一个或多个衬底内的晶体管沟道区域。

14.至少一个计算机可读存储介质,该介质包括一组可执行程序指令,所述指令当被计算系统执行时,使得所述计算系统:

15.如权利要求14所述的至少一个计算机可读存储介质,其中,所述可执行程序指令在被执行时,还使得所述计算系统:

16.如权利要求14至15中的任一项所述的至少一个计算机可读存储介质,其中:

17.如权利要求14至15中的任一项所述的至少一个计算机可读存储介质,其中,所述可执行程序指令在被执行时,还使得所述计算系统:

18.如权利要求14所述的至少一个计算机可读存储介质,

19.如权利要求14至18中的任一项所述的至少一个计算机可读存储介质,其中,所述可执行程序指令在被执行时,还使得所述计算系统:

20.如权利要求14所述的至少一个计算机可读存储介质,其中,所述解码缓冲器包括与所述多个处理元件相对应的多个数据储存器。

21.如权利要求20所述的至少一个计算机可读存储介质,其中,所述多个数据储存器中的第一数据储存器包括:存储所述压缩数据的第一环形缓冲器和第二环形缓冲器,以及用来存储所述稀疏性位图的位图队列。

22.一种方法,包括:

23.如权利要求22所述的方法,还包括:

24.如权利要求22至23中的任一项所述的方法,其中:

25.如权利要求22至23中的任一项所述的方法,还包括:

...

【技术特征摘要】
【国外来华专利技术】

1.一种计算系统,包括:

2.如权利要求1所述的计算系统,其中,所述逻辑用于:

3.如权利要求1至2中的任一项所述的计算系统,其中:

4.如权利要求1至2中的任一项所述的计算系统,其中:

5.如权利要求1所述的计算系统,其中:

6.如权利要求1至5中的任一项所述的计算系统,其中,所述逻辑用于:

7.一种半导体装置,包括:

8.如权利要求7所述的装置,其中,所述逻辑用于:

9.如权利要求7至8中的任一项所述的装置,其中:

10.如权利要求7至8中的任一项所述的装置,其中:

11.如权利要求7所述的装置,其中:

12.如权利要求7至11中的任一项所述的装置,其中,所述逻辑用于:

13.如权利要求7至12中的任一项所述的装置,其中,所述逻辑包括位于所述一个或多个衬底内的晶体管沟道区域。

14.至少一个计算机可读存储介质,该介质包括一组可执行程序指令,所述指令当被计算系统执行时,使得所述计算系统:

15.如权利要求14所述的至少一个计算机可读存储介质,其中,所述可执行程...

【专利技术属性】
技术研发人员:迪帕克·马泰库蒂阿纳布·拉哈雷蒙德·宋德巴布拉塔·莫哈帕特拉科马克·布瑞克
申请(专利权)人:英特尔公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1