System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本披露一般地涉及计算领域。更具体地,本披露涉及一种计算装置、集成电路芯片、板卡、电子设备和计算方法。
技术介绍
1、在计算系统中,指令集是用于执行计算和对计算系统进行控制的一套指令的集合,并且在提高计算系统中计算芯片(例如处理器)的性能方面发挥着关键性的作用。当前的各类计算芯片(特别是人工智能领域的芯片)利用相关联的指令集,可以完成各类通用或特定的控制操作和数据处理操作。然而,当前的指令集还存在诸多方面的缺陷。例如,现有的指令集受限于硬件架构而在灵活性方面表现较差。进一步,许多指令仅能完成单一的操作,而多个操作的执行则通常需要多条指令,这潜在地导致片内i/o数据吐吞量增大。另外,当前的指令在执行速度、执行效率和对芯片造成的功耗方面还有改进之处。
2、另外,传统的处理器cpu的运算指令被设计为能够执行基本的单数据标量运算操作。这里,单数据操作指的是指令的每一个操作数都是一个标量数据。然而,在图像处理和模式识别等任务里,面向的操作数往往是多维向量(即,张量数据)的数据类型,仅仅使用标量操作无法使硬件高效地完成运算任务。因此,如何高效地执行多维的张量运算也是当前计算领域亟需解决的问题。
技术实现思路
1、为了至少解决上述现有技术中存在的问题,本披露提供一种硬件构架平台和相关指令的解决方案。利用本披露公开的方案,可以增加指令的灵活性,提高指令执行的效率并且降低计算成本和开销。进一步,本披露的方案在前述硬件架构的基础上支持对张量数据的高效访存和处理,从而在计算指令中包括多维向量操
2、在第一方面中,本披露公开了一种计算装置,包括主处理电路和至少一个从处理电路,其中:
3、所述主处理电路配置成响应于主指令来执行主运算操作,
4、所述从处理电路配置成响应于从指令来执行从运算操作,
5、其中,所述主运算操作包括针对于所述从运算操作的前处理操作和/或后处理操作,所述主指令和所述从指令根据所述计算装置接收的计算指令解析得到,其中所述计算指令的操作数包括用于指示张量的形状的描述符,所述描述符用于确定所述操作数对应数据的存储地址,
6、其中所述主处理电路和/或从处理电路配置成根据所述存储地址来执行各自对应的主运算操作和/或从处理操作。
7、在第二方面中,本披露公开了一种集成电路芯片,其包括前一方面中提及并且在稍后的多个实施例中描述的计算装置。
8、在第三方面中,本披露公开了一种板卡,其包括前一方面中提及并且在稍后的多个实施例中描述的集成电路芯片。
9、在第四方面中,本披露公开了一种电子设备,其包括前一方面中提及并且在稍后的多个实施例中描述的集成电路芯片。
10、在第五方面中,本披露公开了一种使用前述的计算装置来执行计算操作的方法,其中所述计算装置包括主处理电路和至少一个从处理电路,所述方法包括:
11、将所述主处理电路配置成响应于主指令来执行主运算操作,
12、将所述从处理电路配置成响应于从指令来执行从运算操作,
13、其中所述主运算操作包括针对于所述从运算操作的前处理操作和/或后处理操作,所述主指令和所述从指令根据所述计算装置接收的计算指令解析得到,其中所述计算指令的操作数包括用于指示张量的形状的描述符,所述描述符用于确定所述操作数对应数据的存储地址,
14、其中所述方法还包括将所述主处理电路和/或从处理电路配置成根据所述存储地址来执行各自对应的主运算操作和/或从处理操作。
15、利用本披露公开的计算装置、集成电路芯片、板卡、电子设备和方法,可以高效地执行与主运算操作和从运算操作相关的主指令和从指令,从而加速运算操作的执行。进一步,由于主运算操作和从运算操作的结合,使得本披露的计算装置可以支持更多类型的运算和操作。另外,基于本披露的计算装置的流水线运算布置,可以对计算指令进行灵活地配置以满足计算的要求。
本文档来自技高网...【技术保护点】
1.一种执行计算指令的人工智能处理器,所述计算指令包括描述符,所述人工智能处理器包括:
2.根据权利要求1所述的人工智能处理器,其中所述主处理电路用以执行所述前处理操作中的数据拼接操作。
3.根据权利要求1所述的人工智能处理器,其中所述主处理电路用以执行所述前处理操作中的数据转换操作。
4.根据权利要求1所述的人工智能处理器,其中所述张量存储在内部存储器的同一块区域。
5.根据权利要求1所述的人工智能处理器,其中所述主处理电路基于所述N维矩阵运算进行后处理操作。
6.根据权利要求5所述的人工智能处理器,其中所述主处理电路通过所述计算指令的标识位来匹分所述前处理操作和所述后处理操作。
7.根据权利要求5所述的人工智能处理器,其中所述计算指令包括以下组合中的一项:前处理指令和从处理指令;从处理指令和后处理指令;以及前处理指令、从处理指令和后处理指令。
8.根据权利要求1所述的人工智能处理器,其中所述从处理电路执行数据类型转换。
9.根据权利要求1所述的人工智能处理器,其中所述主处理电路和所
10.根据权利要求1所述的人工智能处理器,其中
11.一种执行计算指令的人工智能处理器,所述计算指令包括描述符,所述人工智能处理器包括:
12.根据权利要求11所述的人工智能处理器,其中所述主处理电路用以执行所述前处理操作中的数据转换操作。
13.根据权利要求11所述的人工智能处理器,还包括:
14.根据权利要求13所述的人工智能处理器,其中所述张量存储在内部存储器的同一块区域。
15.根据权利要求13所述的人工智能处理器,其中所述主处理电路基于所述N维矩阵运算进行后处理操作。
16.根据权利要求15所述的人工智能处理器,其中所述主处理电路通过所述计算指令的标识位来匹分所述前处理操作和所述后处理操作。
17.根据权利要求15所述的人工智能处理器,其中所述计算指令包括以下组合中的一项:前处理指令和从处理指令;从处理指令和后处理指令;以及前处理指令、从处理指令和后处理指令。
18.根据权利要求13所述的人工智能处理器,其中所述从处理电路执行数据类型转换。
19.根据权利要求13所述的人工智能处理器,其中所述主处理电路和所述从处理电路配置成支持多级流水运算。
20.根据权利要求11所述的人工智能处理器,其中
21.一种执行计算指令的人工智能处理器,所述计算指令包括描述符,所述人工智能处理器包括:
22.根据权利要求21所述的人工智能处理器,还包括:
23.根据权利要求22所述的人工智能处理器,其中所述张量存储在内部存储器的同一块区域。
24.根据权利要求22所述的人工智能处理器,其中所述主处理电路基于所述N维矩阵运算进行后处理操作。
25.根据权利要求24所述的人工智能处理器,其中所述主处理电路通过所述计算指令的标识位来匹分所述前处理操作和所述后处理操作。
26.根据权利要求24所述的人工智能处理器,其中所述计算指令包括以下组合中的一项:前处理指令和从处理指令;从处理指令和后处理指令;以及前处理指令、从处理指令和后处理指令。
27.根据权利要求22所述的人工智能处理器,其中所述从处理电路执行数据类型转换。
28.根据权利要求22所述的人工智能处理器,其中所述主处理电路和所述从处理电路配置成支持多级流水运算。
29.根据权利要求21所述的人工智能处理器,其中
30.一种集成电路芯片,包括根据权利要求1-29的任意一项所述的人工智能处理器。
31.一种板卡,包括根据权利要求30所述的集成电路芯片。
32.一种电子设备,包括根据权利要求30所述的集成电路芯片。
...【技术特征摘要】
1.一种执行计算指令的人工智能处理器,所述计算指令包括描述符,所述人工智能处理器包括:
2.根据权利要求1所述的人工智能处理器,其中所述主处理电路用以执行所述前处理操作中的数据拼接操作。
3.根据权利要求1所述的人工智能处理器,其中所述主处理电路用以执行所述前处理操作中的数据转换操作。
4.根据权利要求1所述的人工智能处理器,其中所述张量存储在内部存储器的同一块区域。
5.根据权利要求1所述的人工智能处理器,其中所述主处理电路基于所述n维矩阵运算进行后处理操作。
6.根据权利要求5所述的人工智能处理器,其中所述主处理电路通过所述计算指令的标识位来匹分所述前处理操作和所述后处理操作。
7.根据权利要求5所述的人工智能处理器,其中所述计算指令包括以下组合中的一项:前处理指令和从处理指令;从处理指令和后处理指令;以及前处理指令、从处理指令和后处理指令。
8.根据权利要求1所述的人工智能处理器,其中所述从处理电路执行数据类型转换。
9.根据权利要求1所述的人工智能处理器,其中所述主处理电路和所述从处理电路配置成支持多级流水运算。
10.根据权利要求1所述的人工智能处理器,其中
11.一种执行计算指令的人工智能处理器,所述计算指令包括描述符,所述人工智能处理器包括:
12.根据权利要求11所述的人工智能处理器,其中所述主处理电路用以执行所述前处理操作中的数据转换操作。
13.根据权利要求11所述的人工智能处理器,还包括:
14.根据权利要求13所述的人工智能处理器,其中所述张量存储在内部存储器的同一块区域。
15.根据权利要求13所述的人工智能处理器,其中所述主处理电路基于所述n维矩阵运算进行后处理操作。
16.根据权利要求15所述的人工智能处理器,其中所述主处理电路通过所述计算指令的标识位来匹分所述...
【专利技术属性】
技术研发人员:请求不公布姓名,请求不公布姓名,
申请(专利权)人:上海寒武纪信息科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。