指令处理方法、装置及相关产品制造方法及图纸

本公开涉及一种指令处理方法、装置及相关产品。机器学习装置包括一个或多个指令处理装置，用于从其他处理装置中获取待运算数据和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；当机器学习运算装置包含多个指令处理装置时，多个指令处理装置间可以通过特定的结构进行连接并传输数据。其中，多个指令处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据；多个指令处理装置共享同一控制系统或拥有各自的控制系统、且共享内存或者拥有各自的内存；多个指令处理装置的互联方式是任意互联拓扑。本公开实施例所提供的指令处理方法、装置及相关产品的适用范围广，对指令的处理效率高、处理速度快。

【技术实现步骤摘要】
指令处理方法、装置及相关产品
本公开涉及计算机
，尤其涉及一种用于实现内存赋值的指令处理方法、装置及相关产品。
技术介绍
随着科技的不断发展，神经网络算法等机器学习算法的使用越来越广泛，在图像识别、语音识别、自然语言处理等领域中都得到了良好的应用。大数据运算及机器学习算法的广泛应用，使得数据的存储及运算均面临着较大的挑战。如何对该计算机装置的内存空间进行赋值或初始化成为研究热点。
技术实现思路
有鉴于此，本公开提出了一种用于实现内存赋值的指令处理方法、装置及相关产品。根据本公开的第一方面，提供了一种指令处理装置，所述装置包括：编译器，用于对内存赋值指令进行编译，获得编译后的内存赋值指令；控制模块，用于对编译后的内存赋值指令进行解析，得到所述内存赋值指令的操作码和操作域，并根据所述操作码和所述操作域获得目标张量的存储地址、所述目标张量中待赋值元素的数量以及目标值；其中，所述操作域包括目标张量的存储地址、所述目标张量中待赋值元素的数量和所述目标值；所述目标张量的存储地址指向的存储空间为所述指令处理装置的片上存储空间；处理模块，用于根据所述目标张量的存储地址、所述目标张量中待赋值元素的数量和所述目标值，将所述目标值作为所述目标张量中待赋值元素的值。根据本公开的第二方面，提供了一种机器学习运算装置，所述装置包括：一个或多个上述第一方面所述的指令处理装置，用于从其他处理装置中获取待迁移数据和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；当所述机器学习运算装置包含多个所述指令处理装置时，所述多个所述指令处理装置间可以通过特定的结构进行连接并传输数据；其中，多个所述指令处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据，以支持更大规模的机器学习的运算；多个所述指令处理装置共享同一控制系统或拥有各自的控制系统；多个所述指令处理装置共享内存或者拥有各自的内存；多个所述指令处理装置的互联方式是任意互联拓扑。根据本公开的第三方面，提供了一种组合处理装置，所述装置包括：上述第二方面所述的机器学习运算装置、通用互联接口和其他处理装置；所述机器学习运算装置与所述其他处理装置进行交互，共同完成用户指定的计算操作。根据本公开的第四方面，提供了一种机器学习芯片，所述机器学习芯片包括上述第二方面所述的机器学习络运算装置或上述第三方面所述的组合处理装置。根据本公开的第五方面，提供了一种机器学习芯片封装结构，该机器学习芯片封装结构包括上述第四方面所述的机器学习芯片。根据本公开的第六方面，提供了一种板卡，该板卡包括上述第五方面所述的机器学习芯片封装结构。根据本公开的第七方面，提供了一种电子设备，所述电子设备包括上述第四方面所述的机器学习芯片或上述第六方面所述的板卡。根据本公开的第八方面，提供了一种指令处理方法，所述方法包括：对内存赋值指令进行编译，获得编译后的内存赋值指令；对编译后的内存赋值指令进行解析，得到所述内存赋值指令的操作码和操作域，并根据所述操作码和所述操作域获得目标张量的存储地址、所述目标张量中的待赋值元素的数量以及目标值；其中，所述操作域包括目标张量的存储地址、所述目标张量中的待赋值元素的数量和所述目标值；所述目标张量的存储地址指向的存储空间为所述指令处理装置的片上存储空间；根据所述目标张量的存储地址、所述目标张量中的待赋值元素的数量和所述目标值，将所述目标值作为所述目标张量中待赋值元素的值。根据本公开的第八方面，提供了一种计算机可读存储介质，所述存储介质中存储有计算机程序，所述计算机程序被一个或多个处理器执行，实现上述的指令处理方法的步骤。本公开实施例所提供的指令处理方法、装置及相关产品，该装置包括控制模块和处理模块。编译器对内存赋值指令进行编译，获得编译后的内存赋值指令，控制模块对编译后的内存赋值指令进行解析，得到内存赋值指令的操作码和操作域，并根据操作码和操作域获得目标张量的存储地址、所述目标张量中的待赋值元素的数量以及目标值，其中，该目标张量的存储地址指向的存储空间为指令处理装置片上存储空间。处理模块可以根据目标张量的存储地址、所述目标张量中的待赋值元素的数量和目标值，将目标值作为目标张量中待赋值元素的值，从而实现指令处理装置中片上存储空间的赋值。本申请实施例提供的指令处理方法、装置及相关产品对指令赋值指令的处理效率高、处理速度高。根据下面参考附图对示例性实施例的详细说明，本公开的其它特征及方面将变得清楚。附图说明包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面，并且用于解释本公开的原理。图1示出根据本公开一实施例的指令处理装置的框图；图2示出根据本公开一实施例的指令处理装置中的存储模块框图；图3a-图3e示出根据本公开一实施例的指令处理装置的框图；图4a、图4b示出根据本公开一实施例的组合处理装置的框图；图5示出根据本公开一实施例的板卡的结构示意图；图6示出根据本公开一实施例的指令处理方法的流程图。具体实施方式以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面，但是除非特别指出，不必按比例绘制附图。在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。另外，为了更好的说明本公开，在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解，没有某些具体细节，本公开同样可以实施。在一些实例中，对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述，以便于凸显本公开的主旨。本申请提供了一种用于实现内存赋值指令以及用于执行该内存赋值指令的指令处理装置。该指令处理装置可以用于执行内存赋值指令等多种指令。其中，内存赋值指令可以用于将指令存储装置的片上存储空间的指定区间内的值设置为目标值。可选地，该内存赋值指令可以包括操作码和操作域，该操作码可以用来表示指令用于执行何种操作，本申请实施例中，内存赋值指令的操作码可以用于指示该内存赋值指令是用以设置指定存储空间内的值，进一步的，该操作码可以包括目标张量的存储地址所属的存储器的标识。也就是说，本申请中的内存赋值指令是用于设置特定存储器中的指定存储空间内的值。该内存赋值指令的操作域可以用来说明该指令作用的对象信息，具体地，该内存赋值指令的操作域可以用来指示目标张量信息和目标值，该目标张量信息可以包括目标张量的存储地址和目标张量中的待赋值元素的数量。例如，该操作域可以包括三个操作数，三个操作数分别为目标张量的存储地址、目标张量中的待赋值元素的数量和目标值。该目标张量的存储地址指向的存储空间可以为指令存储装置的片上存储空间。应当理解的是，本领域技术人员可以根据需要对本文档来自技高网...

【技术保护点】
1.一种指令处理装置，其特征在于，所述装置包括：/n编译器，用于对内存赋值指令进行编译，获得编译后的内存赋值指令；/n控制模块，用于对编译后的内存赋值指令进行解析，得到所述内存赋值指令的操作码和操作域，并根据所述操作码和所述操作域获得目标张量的存储地址、所述目标张量中待赋值元素的数量以及目标值；其中，所述操作域包括目标张量的存储地址、所述目标张量中待赋值元素的数量和所述目标值；所述目标张量的存储地址指向的存储空间为所述指令处理装置的片上存储空间；/n处理模块，用于根据所述目标张量的存储地址、所述目标张量中待赋值元素的数量和所述目标值，将所述目标值作为所述目标张量中待赋值元素的值。/n

【技术特征摘要】
1.一种指令处理装置，其特征在于，所述装置包括：
编译器，用于对内存赋值指令进行编译，获得编译后的内存赋值指令；
控制模块，用于对编译后的内存赋值指令进行解析，得到所述内存赋值指令的操作码和操作域，并根据所述操作码和所述操作域获得目标张量的存储地址、所述目标张量中待赋值元素的数量以及目标值；其中，所述操作域包括目标张量的存储地址、所述目标张量中待赋值元素的数量和所述目标值；所述目标张量的存储地址指向的存储空间为所述指令处理装置的片上存储空间；
处理模块，用于根据所述目标张量的存储地址、所述目标张量中待赋值元素的数量和所述目标值，将所述目标值作为所述目标张量中待赋值元素的值。


2.根据权利要求1所述的装置，其特征在于，所述处理模块包括数据读写电路，所述数据读写电路用于根据所述目标张量的存储地址、所述目标张量中待赋值元素的数量和所述目标值，将所述目标张量中的前N个元素的值设置为所述目标值，其中，N表示所述待赋值元素的数量。


3.根据权利要求1所述的装置，其特征在于，所述目标张量的存储地址指向的存储空间为片上NRAM，所述NRAM用于存储标量或张量数据。


4.根据权利要求1所述的装置，其特征在于，所述待赋值元素数量为常数，所述待赋值元素的数据类型为int。


5.根据权利要求1所述的装置，其特征在于，所述目标张量的存储地址与所述目标值具有相同的数据类型，所述目标张量的存储地址和所述目标值的数据类型为half、int16、unit16、int32、unit32中的一种。


6.根据权利要求5所述的装置，其特征在于，所述操作码中包含数据类型；
所述操作码中的数据类型为half时，所...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：上海;31