数据处理装置、数据处理方法及相关产品制造方法及图纸

技术编号:33511357 阅读:11 留言:0更新日期:2022-05-19 01:19
本披露公开了一种数据处理装置、数据处理方法及相关产品。该数据处理装置可以实现为计算装置包括在组合处理装置中,该组合处理装置还可以包括接口装置和其他处理装置。该计算装置与其他处理装置进行交互,共同完成用户指定的计算操作。组合处理装置还可以包括存储装置,该存储装置分别与计算装置和其他处理装置连接,用于存储该计算装置和其他处理装置的数据。本披露的方案提供了涉及张量数据的指令系统,其可以增加处理灵活度,提高机器的处理效率。率。率。

【技术实现步骤摘要】
数据处理装置、数据处理方法及相关产品


[0001]本披露涉及处理器领域,特别是涉及一种数据处理装置、数据处理方法、芯片和板卡。

技术介绍

[0002]指令系统是计算机软件和硬件交互的接口,是计算机系统结构中一个非常重要的部分。随着人工智能技术的不断发展,需要处理的数据量和数据维度都在不断增大。因此,如何合理、科学地设计指令,使指令既能给出足够的信息,又能节省存储空间,缩短取指时间,提高机器的性能,这是指令设计中的一个重要问题。

技术实现思路

[0003]为了解决如上所提到的一个或多个技术问题,本披露在多个方面中提出了涉及张量数据的指令系统。通过本披露的指令系统,可以增加处理灵活度,由此提高机器的处理效率。
[0004]在第一方面中,本披露提供一种数据处理装置,包括控制单元、地址计算单元和执行单元,其中:所述控制单元配置用于获取解码的处理指令,所述处理指令包括操作码和操作数,所述操作数中包括至少一个标志位,用于指示所述处理指令执行期间计算数据地址的信息来源;所述地址计算单元配置用于根据所述标志位的指示,利用对应的信息来源计算所述数据地址;以及所述执行单元配置用于根据所述数据地址和所述操作码,执行所述处理指令。
[0005]在第二方面中,本披露提供一种芯片,包括前述第一方面任一实施例的数据处理装置。
[0006]在第三方面中,本披露提供一种板卡,包括前述第二方面任一实施例的芯片。
[0007]在第四方面中,本披露提供一种数据处理方法,该方法包括:获取解码的处理指令,所述处理指令包括操作码和操作数,所述操作数中包括至少一个标志位,用于指示所述处理指令执行期间计算数据地址的信息来源;根据所述标志位的指示,利用对应的信息来源计算所述数据地址;以及根据所述数据地址和所述操作码,执行所述处理指令。
[0008]通过如上所提供的数据处理装置、数据处理方法、芯片和板卡,本披露实施例在指令中增加至少一个指令域,来标识指令执行过程中地址计算的来源,从而可以增加处理的灵活度,由此提高机器的处理效率。
附图说明
[0009]通过参考附图阅读下文的详细描述,本披露示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中,以示例性而非限制性的方式示出了本披露的若干实施方式,并且相同或对应的标号表示相同或对应的部分其中:
[0010]图1示出根据本披露实施例的数据存储空间的示意图;
[0011]图2示出根据本披露实施例的数据分块在数据存储空间中的示意图;
[0012]图3示出根据本披露实施例的数据处理装置的示意性框图;
[0013]图4示出根据本披露实施例的数据处理方法的示意性流程图;
[0014]图5示出根据本披露实施例的一种组合处理装置的结构图;以及
[0015]图6示出根据本披露实施例的一种板卡的结构示意图。
具体实施方式
[0016]下面将结合本披露实施例中的附图,对本披露实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本披露一部分实施例,而不是全部的实施例。基于本披露中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本披露保护的范围。
[0017]应当理解,本披露的权利要求、说明书及附图中可能使用的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象,而不是用于描述特定顺序。本披露的说明书和权利要求书中使用的术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
[0018]还应当理解,在此本披露说明书中所使用的术语仅仅是出于描述特定实施例的目的,而并不意在限定本披露。如在本披露说明书和权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。还应当进一步理解,在本披露说明书和权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
[0019]如在本说明书和权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
[0020]计算机通过执行指令来处理各种数据。为了指出数据的来源、操作结果的去向及所执行的操作,一条指令通常包含下列信息:
[0021](1)操作码(Operation Code,OP),用来表示该指令所要完成的操作(例如,加、减、乘、除、数据传送等),它具体说明了操作的性质及功能。一台计算机可能有几十条至几百条指令,每一条指令都有一个相应的操作码,计算机通过识别该操作码来完成不同的操作。
[0022](2)操作数,用来描述该指令的操作对象。操作数可以涉及被操作对象的数据类型、访存地址、寻址方式等。操作数可以直接给出被操作对象,或者指出被操作对象的存储器地址或寄存器地址(即寄存器名)。
[0023]传统的处理器的指令被设计为能够执行基本的单数据标量操作。这里,单数据标量操作指的是指令的每一个操作数都是一个标量数据。然而,随着人工智能技术的发展,在诸如图像处理和模式识别等的任务中,面向的操作数往往是多维向量(即,张量数据)的数据类型,仅仅使用标量操作无法使硬件高效地完成运算任务。另外,由于张量数据的多维特性,有时候仅需要对张量数据中的部分数据进行操作,而不是针对整个张量数据。因此,如何高效地执行多维的张量数据处理也是当前计算领域亟需解决的问题。
[0024]在本披露的实施例中,提供了一种指令系统,其中在处理指令的操作数中增加至少一个指令域,用于指示该处理指令执行期间计算数据地址的信息来源。通过增加一个指令域来指示用于计算数据地址的信息来源,可以更灵活地指示处理指令所操作的数据对象。例如,可以通过该指令域来指示所操作的数据是整个张量数据,还是张量数据的部分数据。由此,通过配置新的指令域,可以使得软件侧的编程方式更灵活、更高效。
[0025]该指令域可以是标志位,用于指示以下任一信息来源:该处理指令的参数;或者该处理指令中的描述符的参数,其中描述符用于指示与处理指令关联的张量数据的信息。换言之,该标志位可以标识在指令执行的过程中,地址计算是采用指令中的信息(指令的参数),还是采用描述符中的信息(描述符的参数)。标志位的取值可以是“0”或“1”。例如,标志位取值为“0”,指示采用指令的参数;标志位取值为“1”,指示采用描述符的参数;反之亦然。
[0026]在本披露的一些实施例中,标志位可以按照不同粒度指示用于计算数据地址的信息来源。由于张量数据的多维特性,有时候需要对整个张量数据进行操作,有时候仅需要对其中部分数据进行操作,因本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据处理装置,包括控制单元、地址计算单元和执行单元,其中:所述控制单元配置用于获取解码的处理指令,所述处理指令包括操作码和操作数,所述操作数中包括至少一个标志位,用于指示所述处理指令执行期间计算数据地址的信息来源;所述地址计算单元配置用于根据所述标志位的指示,利用对应的信息来源计算所述数据地址;以及所述执行单元配置用于根据所述数据地址和所述操作码,执行所述处理指令。2.根据权利要求1所述的数据处理装置,其中所述标志位指示以下任一信息来源:所述处理指令的参数;或者所述处理指令中的描述符的参数,其中所述描述符用于指示与所述处理指令关联的张量数据的信息。3.根据权利要求2所述的数据处理装置,其中所述标志位按照不同粒度指示用于计算数据地址的信息来源。4.根据权利要求2-3任一所述的数据处理装置,其中所述标志位指示用于计算整个张量数据的数据地址的信息来源。5.根据权利要求2-4任一所述的数据处理装置,其中所述标志位指示用于计算张量数据各个维度的数据地址的信息来源。6.根据权利要求2-5任一所述的数据处理装置,其中所述标志位指示用于计算数据地址的不同参数的信息来源。7.根据权利要求2-6任一所述的数据处理装置,其中所述标志位指示用于计算张量数据各个维度的数据地址的不同参数的信息来源。8.根据权利要求2-7任一所述的数据处理装置,其中所述参数包括以下至少一项:张量数据的整个或部分存储区域的偏移量;和张量数据的整个或部分存储区域的尺寸。9.根据权利要求2-8任一所述的数据处理装置,其中所述描述符指示所述张量数据的形状信息,所述张量数据的形状信息包括表示N维张量数据的形状的至少一个形状参数,N为正整数,所述张量数据的形状参数包括以下至少一种:所述张量数据所在的数据存储空间在N个维度方向的至少一个方向上的尺寸、所述张量数据的存储区域在N个维度方向的至少一个方向上的尺寸、所述存储区域在N个维度方向的至少一个方向上的偏移量、处于N个维度方向的对角位置的至少两个顶点相对于数据基准点的位置、所述张量数据的数据描述位置与数据地址之间的映射关系。10.一种芯片,其特征在于,所述芯片包括如权利要求1-9任一所...

【专利技术属性】
技术研发人员:ꢀ七四专利代理机构
申请(专利权)人:中科寒武纪科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1