运算方法、装置及相关产品制造方法及图纸

本公开涉及一种运算方法、装置及相关产品。机器学习装置包括一个或多个指令处理装置，用于从其他处理装置中获取待运算数据和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；当机器学习运算装置包含多个指令处理装置时，多个指令处理装置间可以通过特定的结构进行连接并传输数据。其中，多个指令处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据；多个指令处理装置共享同一控制系统或拥有各自的控制系统、且共享内存或者拥有各自的内存；多个指令处理装置的互联方式是任意互联拓扑。本公开实施例所提供的运算方法、装置及相关产品的适用范围广，运算的处理效率高、处理速度快。

【技术实现步骤摘要】
运算方法、装置及相关产品
本公开涉及计算机
，尤其涉及一种运算方法、装置及相关产品。
技术介绍
随着科技的不断发展，机器学习，尤其是神经网络算法的使用越来越广泛。其在图像识别、语音识别、自然语言处理等领域中都得到了良好的应用。但由于神经网络算法的复杂度越来越高，所涉及的数据运算种类和数量不断增大。相关技术中，通过数据进行激活运算的效率低、速度慢。
技术实现思路
有鉴于此，本公开提出了一种运算方法、装置及相关产品，以提高对数据进行激活运算的效率和速度。根据本公开的第一方面，提供了一种激活指令处理装置，所述装置包括：控制模块，用于对获取到的激活指令进行解析，得到所述激活指令的操作码和操作域，并根据所述操作码和所述操作域获取执行所述激活指令所需的待运算数据和目标地址；运算模块，用于对所述待运算数据进行激活运算，得到运算结果，并将所述运算结果存入所述目标地址中，其中，所述操作码用于指示所述激活指令对数据所进行的运算为激活运算，所述操作域包括待运算数据地址和所述目标地址。根据本公开的第二方面，提供了一种机器学习运算装置，所述装置包括：一个或多个上述第一方面所述的激活指令处理装置，用于从其他处理装置中获取待运算数据和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；当所述机器学习运算装置包含多个所述激活指令处理装置时，所述多个所述激活指令处理装置间可以通过特定的结构进行连接并传输数据；其中，多个所述激活指令处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据，以支持更大规模的机器学习的运算；多个所述激活指令处理装置共享同一控制系统或拥有各自的控制系统；多个所述激活指令处理装置共享内存或者拥有各自的内存；多个所述激活指令处理装置的互联方式是任意互联拓扑。根据本公开的第三方面，提供了一种组合处理装置，所述装置包括：上述第二方面所述的机器学习运算装置、通用互联接口和其他处理装置；所述机器学习运算装置与所述其他处理装置进行交互，共同完成用户指定的计算操作。根据本公开的第四方面，提供了一种机器学习芯片，所述机器学习芯片包括上述第二方面所述的机器学习络运算装置或上述第三方面所述的组合处理装置。根据本公开的第五方面，提供了一种机器学习芯片封装结构，该机器学习芯片封装结构包括上述第四方面所述的机器学习芯片。根据本公开的第六方面，提供了一种板卡，该板卡包括上述第五方面所述的机器学习芯片封装结构。根据本公开的第七方面，提供了一种电子设备，所述电子设备包括上述第四方面所述的机器学习芯片或上述第六方面所述的板卡。根据本公开的第八方面，提供了一种激活指令处理方法，所述方法应用于激活指令处理装置，所述方法包括：对获取到的激活指令进行解析，得到所述激活指令的操作码和操作域，并根据所述操作码和所述操作域获取执行所述激活指令所需的待运算数据、激活表、常数表和目标地址；根据所述激活表和所述常数表，对所述待运算数据进行激活运算，得到运算结果，并将所述运算结果存入所述目标地址中，其中，所述操作码用于指示所述激活指令对数据所进行的运算为激活运算，所述操作域包括待运算数据地址、激活表地址、常数表地址和所述目标地址。本公开实施例提供一种激活指令处理方法、装置及相关产品，该装置包括控制模块和运算模块，控制模块用于对获取到的激活指令进行解析，得到激活指令的操作码和操作域，并根据操作码和操作域获取执行激活指令所需的待运算数据和目标地址；运算模块用于对待运算数据进行激活运算，得到运算结果，并将运算结果存入目标地址中。本公开实施例所提供的激活指令处理方法、装置及相关产品的适用范围广，对激活指令的处理效率高、处理速度快，进行激活运算的处理效率高、处理速度快。根据下面参考附图对示例性实施例的详细说明，本公开的其它特征及方面将变得清楚。附图说明包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面，并且用于解释本公开的原理。图1示出根据本公开一实施例的激活指令处理装置的框图。图2a-图2f示出根据本公开一实施例的激活指令处理装置的框图。图3示出根据本公开一实施例的激活指令处理装置的应用场景的示意图。图4a、图4b示出根据本公开一实施例的组合处理装置的框图。图5示出根据本公开一实施例的板卡的结构示意图。图6示出根据本公开一实施例的激活指令处理方法的流程图。具体实施方式以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面，但是除非特别指出，不必按比例绘制附图。在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。另外，为了更好的说明本公开，在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解，没有某些具体细节，本公开同样可以实施。在一些实例中，对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述，以便于凸显本公开的主旨。图1示出根据本公开一实施例的激活指令处理装置的框图。如图1所示，该装置包括控制模块11和运算模块12。控制模块11，用于对获取到的激活指令进行解析，得到激活指令的操作码和操作域，并根据操作码和操作域获取执行激活指令所需的待运算数据、和目标地址。其中，操作码用于指示激活指令对数据所进行的运算为激活运算，操作域包括待运算数据地址和目标地址。运算模块12，用于对待运算数据进行激活运算，得到运算结果，并将运算结果存入目标地址中。在本实施例中，控制模块可以从待运算数据地址中获得待运算数据。控制模块可以通过数据输入输出单元获得指令和数据，该数据输入输出单元可以为一个或多个数据I/O接口或I/O引脚。在本实施例中，操作码可以是计算机程序中所规定的要执行操作的那一部分指令或字段(通常用代码表示)，是指令序列号，用来告知执行指令的装置具体需要执行哪一条指令。操作域可以是执行对应的指令所需的所有数据的来源，如对应的地址，执行对应的指令所需的所有数据包括待运算数据、等数据以及对应的运算方法等等。对于一个激活指令其必须包括操作码和操作域，其中，操作域至少包括待运算数据地址和目标地址。应当理解的是，本领域技术人员可以根据需要对激活指令的指令格式以及所包含的操作码和操作域进行设置，本公开对此不作限制。在本实施例中，该装置可以包括一个或多个控制模块，以及一个或多个运算模块，可以根据实际需要对控制模块和运算模块的数量进行设置，本公开对此不作限制。在装置包括一个控制模块时，该控制模块可以接收线性整流函数激活指令，并控制一个或多个处理模块进行线性整流函数激活运算。在装置包括多个控制模块时，多个控制模块可以分别接收线性整流函数激活指令，并本文档来自技高网...

【技术保护点】
1.一种激活指令处理装置，其特征在于，所述装置包括：/n控制模块，用于对获取到的激活指令进行解析，得到所述激活指令的操作码和操作域，并根据所述操作码和所述操作域获取执行所述激活指令所需的待运算数据和目标地址；/n运算模块，用于对所述待运算数据进行激活运算，得到运算结果，并将所述运算结果存入所述目标地址中，/n其中，所述操作码用于指示所述激活指令对数据所进行的运算为激活运算，所述操作域包括待运算数据地址和所述目标地址。/n

【技术特征摘要】
20181012 CN 20181119092471.一种激活指令处理装置，其特征在于，所述装置包括：
控制模块，用于对获取到的激活指令进行解析，得到所述激活指令的操作码和操作域，并根据所述操作码和所述操作域获取执行所述激活指令所需的待运算数据和目标地址；
运算模块，用于对所述待运算数据进行激活运算，得到运算结果，并将所述运算结果存入所述目标地址中，
其中，所述操作码用于指示所述激活指令对数据所进行的运算为激活运算，所述操作域包括待运算数据地址和所述目标地址。


2.根据权利要求1所述的装置，其特征在于，
所述控制模块，还用于根据所述操作码和/或所述操作域获取激活参数表；
所述运算模块，还用于根据所述激活参数表对所述待运算数据进行激活运算，得到运算结果，
其中，所述激活参数表包括激活表和常数表。


3.根据权利要求1所述的装置，其特征在于，所述运算模块，包括：
多个激活运算器，用于对所述待运算数据进行激活运算。


4.根据权利要求3所述的装置，其特征在于，所述运算模块包括主运算子模块和多个从运算子模块，所述主运算子模块包括所述多个激活运算器，
所述主运算子模块，用于利用所述多个激活运算器对所述待运算数据进行激活运算，得到运算结果，并将所述运算结果存入所述目标地址中。


5.一种机器学习运算装置，其特征在于，所述装置包括：
一个或多个如权利要求1-4任一项所述的激活指令处理装置，用于从其他处理装置中获取待运算数据和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；
当所述机器学习运算装置包含多个所述激活指令处理装置时，所述多个所述激活指令处理装置间可以通过特定的结构进行连接并传输数据；
其中，多个所述激活指令处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据，以支...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：上海;31