数据处理装置、方法及相关产品制造方法及图纸

本申请涉及一种数据处理装置、方法及相关产品。该装置中的传输电路根据机器学习装置发出的数据操作信号，从共享存储器中获取机器学习装置所需的输入数据，并返回至机器学习装置，在机器学习装置将该数据运算得到输出数据后，再将输出数据传输至共享存储器进行存储。由于数据操作信号携带数据操作信号的类型标志位和待操作的数据的信息，传输电路可根据该数据操作信号中的类型标志位确定该数据操作信号的类型，然后结合该数据操作信号中的待操作的数据信息执行操作。这样，根据数据操作信号的类型标志位先进行分类快速定位到对应的操作，简化了数据访问逻辑，提高了数据访问效率，大大提高了机器学习芯片在数据访问时的访问速度。

Data processing device, method and related products

【技术实现步骤摘要】
数据处理装置、方法及相关产品
本申请涉及信息处理
，特别是涉及一种数据处理装置、方法及相关产品。
技术介绍
随着信息技术的不断发展和日益增长的需求，人们对数据访问和数据处理的需求越来越高，随之对一些处理数据和访问数据的处理器的要求也越来越严格。以一种通用处理器为例，多个通用处理器核(例如，CPU核)构成的多核处理器，以其强大的并行计算能力，成为一种主流。但是随着目前人工神经网络的不断发展，越来越多架构的机器学习芯片逐渐问世，这些机器学习芯片在运行中需要根据指令来进行数据访问或者处理共享存储中的数据。在数据访问或者共享存储数据较多时，机器学习芯片的指令逐渐变得复杂，进而影响通过指令读取共享存储中的速度，导致神经元数据处理效率低下。因此，如何提高机器学习芯片在数据访问时的访问速度，成为当前技术人员亟待解决的技术问题。
技术实现思路
基于此，有必要针对上述如何提高机器学习芯片在数据访问时的访问速度的技术问题，提供一种数据处理装置、方法及相关产品。第一方面，本专利技术的实施例提供一种数据处理装置，用于执行机器学习数据的处理，所述数据处理装置包括：机器学习装置、传输电路以及共享存储器，所述机器学习装置与所述传输电路连接，所述传输电路与所述共享存储器连接；所述传输电路用于根据所述机器学习装置发出的数据操作信号，从所述共享存储器中获取所述机器学习装置所需的输入数据，并将所述输入数据返回至所述机器学习装置；所述数据操作信号携带数据操作信号的类型标志位以及待操作的数据的信息。<br>在其中一个实施例中，所述机器学习装置，用于根据所述输入数据，执行机器学习运算，得到输出数据。在其中一个实施例中，所述机器学习装置还用于将所述输出数据作为新的输入数据，并通过所述传输电路传输至所述共享存储器进行数据存储。在其中一个实施例中，所述机器学习装置包括至少一个机器学习单元，所述数据操作信号还包括数据接收标志位，所述数据接收标志位用于表征接收所述输入数据的目标机器学习单元。在其中一个实施例中，所述数据操作信号的类型标志位的值包括CAST，表征所述数据操作信号为广播或者多播指令。在其中一个实施例中，所述数据操作信号的类型标志位包括第一类型标志位和第二类型标志位；其中，所述第一类型标志位的值包括I/O，表征所述数据操作信号为I/O指令；所述第二类型标志位用于表征所述数据操作信号为所述I/O指令中的广播或者多播指令。在其中一个实施例中，所述待操作的数据的信息包括所述待操作的数据在所述共享存储器中的源地址、待操作的数据长度、以及操作数据后的数据返回地址的至少一种。在其中一个实施例中，所述数据操作信号还包括跳转信息，所述跳转信息包括跳转步长以及每次跳转后所操作的数据长度。在其中一个实施例中，所述跳转信息包括stride跳转信息和/或segment跳转信息；所述stride跳转信息用于表征所述数据操作信号每次的跳转步长；所述segment跳转信息用于表征预设的所述数据操作信号每次的分割大小。在其中一个实施例中，所述数据操作信号还包括功能标志位，用于表征所述传输电路对所读取的数据进行的处理操作。在其中一个实施例中，所述传输电路包括：指令存储单元，用于存储所述数据操作信号；指令处理单元，用于对所述数据操作信号进行解析，以得到所述数据操作信号的类型标志位以及待操作的数据的信息；存储队列单元，用于存储指令队列，所述指令队列包括：按所述指令队列的前后顺序待执行的多个所述数据操作信号。在其中一个实施例中，所述传输电路还包括：依赖关系处理单元，用于确定第s个数据操作信号与所述第s个数据操作信号之前的第s-1个数据操作信号是否存在关联关系，如所述第s个数据操作信号与所述第s-1个数据操作信号存在关联关系，将所述第s个数据操作信号缓存在所述指令存储单元内，在所述第s-1个数据操作信号执行完毕后，从所述指令存储单元提取所述第s个数据操作信号传输至所述指令处理单元；其中所述确定该第s个数据操作信号与第s个数据操作信号之前的第s-1个数据操作信号是否存在关联关系包括：依据所述第s个数据操作信号提取所述第s个数据操作信号中所需数据的第一存储地址区间，依据所述第s-1个数据操作信号提取所述第s-1个数据操作信号中所需数据的第零存储地址区间，如所述第一存储地址区间与所述第零存储地址区间具有重叠的区域，确定所述第s个数据操作信号与所述第s-1个数据操作信号具有关联关系，如所述第一存储地址区间与所述第零存储地址区间不具有重叠的区域，确定所述第s个数据操作信号与所述第s-1个数据操作信号不具有关联关系。第二方面，本专利技术的实施例提供一种数据处理方法，应用于上述第一方面提供的任一项实施例所述的数据处理装置，所述方法包括：所述数据处理装置中的传输电路接收所述数据处理装置中的机器学习装置发送的数据操作信号，所述数据操作信号携带数据操作信号的类型标志位以及待操作的数据的信息；所述传输电路根据所述数据操作信号的类型标志位确定对共享存储器中的数据所执行的操作，并根据所述待操作的数据的信息对所述待操作的数据执行所述操作，得到所述机器学习装置所需的输入数据，并将所述输入数据返回至所述机器学习装置；所述机器学习装置根据所述输入数据，执行机器学习运算，得到输出数据，以及将所述输出数据作为新的输入数据，并通过所述传输电路传输至共享存储器进行数据存储。在其中一个实施例中，所述机器学习装置包括至少一个机器学习单元，所述数据操作信号还包括数据接收标志位，所述将所述输入数据返回至所述机器学习装置，包括：所述传输电路根据所述数据接收标志位的值确定接收所述输入数据的目标机器学习单元，并将所述输入数据发送至所述目标机器学习单元。在其中一个实施例中，所述方法还包括：若所述数据操作信号的类型标志位的值为CAST，则所述传输电路确定所述数据操作信号为广播或者多播指令。在其中一个实施例中，所述数据操作信号的类型标志位包括第一类型标志位和第二类型标志位，所述第一类型标志位用于表征所述数据操作信号是否为I/O指令，所述第二类型标志位用于表征所述数据操作信号是否为所述I/O指令中的广播或者多播指令；所述方法还包括：若所述第一类型标志位的值为I/O，则所述传输电路确定所述数据操作信号为I/O指令；若所述第二类型标志位的值为1，则所述传输电路确定所述数据操作信号为所述I/O指令中的广播或者多播指令。在其中一个实施例中，所述待操作的数据的信息包括所述待操作的数据在所述共享存储器中的源地址、待操作的数据长度、以及操作数据后的数据返回地址，所述根据所述待操作的数据的信息对所述待操作的数据执行所述操作，得到所述机器学习装置所需的输入数据，并将所述输入数据返回至所述机器学习装置，包括：所述传输电路自所述源地址开始读取所述共享存储器，获取满足所述数据长度的所述输入数据；所述传输电路根据所述数据返回地址本文档来自技高网...

【技术保护点】
1.一种数据处理装置，用于执行机器学习数据的处理，其特征在于，所述数据处理装置包括：机器学习装置、传输电路以及共享存储器，所述机器学习装置与所述传输电路连接，所述传输电路与所述共享存储器连接；/n所述传输电路用于根据所述机器学习装置发出的数据操作信号，从所述共享存储器中获取所述机器学习装置所需的输入数据，并将所述输入数据返回至所述机器学习装置；所述数据操作信号携带数据操作信号的类型标志位以及待操作的数据的信息。/n

【技术特征摘要】
1.一种数据处理装置，用于执行机器学习数据的处理，其特征在于，所述数据处理装置包括：机器学习装置、传输电路以及共享存储器，所述机器学习装置与所述传输电路连接，所述传输电路与所述共享存储器连接；
所述传输电路用于根据所述机器学习装置发出的数据操作信号，从所述共享存储器中获取所述机器学习装置所需的输入数据，并将所述输入数据返回至所述机器学习装置；所述数据操作信号携带数据操作信号的类型标志位以及待操作的数据的信息。


2.根据权利要求1所述的数据处理装置，其特征在于，所述机器学习装置用于根据所述输入数据，执行机器学习运算，得到输出数据。


3.根据权利要求2所述的数据处理装置，其特征在于，所述机器学习装置还用于将所述输出数据通过所述传输电路传输至所述共享存储器进行数据存储。


4.根据权利要求1-3任一项所述的数据处理装置，其特征在于，所述机器学习装置包括至少一个机器学习单元；
所述数据操作信号还包括数据接收标志位，所述数据接收标志位用于表征接收所述输入数据的目标机器学习单元。


5.根据权利要求4所述的数据处理装置，其特征在于，所述数据操作信号的类型标志位的值包括CAST，表征所述数据操作信号为广播或者多播指令。


6.根据权利要求5所述的数据处理装置，其特征在于，所述数据操作信号的类型标志位包括第一类型标志位和第二类型标志位；
其中，所述第一类型标志位的值包括I/O，表征所述数据操作信号为I/O指令；
所述第二类型标志位用于表征所述数据操作信号是否为所述I/O指令中的广播或者多播指令。


7.根据权利要求6所述的数据处理装置，其特征在于，所述待操作的数据的信息包括所述待操作的数据在所述共享存储器中的源地址、待操作的数据长度、以及操作数据后的数据返回地址的至少一种。


8.根据权利要求7所述的数据处理装置，其特征在于，所述数据操作信号还包括跳转信息，所述跳转信息包括跳转步长以及每次跳转后所操作的数据长度。


9.根据权利要求8所述的数据处理装置，其特征在于，所述跳转信息包括stride跳转信息和/或segment跳转信息；
所述stride跳转信息用于表征所述数据操作信号每次的跳转步长；
所述segment跳转信息用于表征预设的所述数据操作信号每次的分割大小。


10.根据权利要求9所述的数据处理装置，其特征在于，所述数据操作信号还包括功能标志位，用于表征所述传输电路对所读取的数据进行的处理操作。


11.根据权利要求1-3任一项所述的数据处理装置，其特征在于，所述传输电路包括：
指令存储单元，用于存储所述数据操作信号；
指令处理单元，用于对所述数据操作信号进行解析，以得到所述数据操作信号的类型标志位以及待操作的数据的信息；
存储队列单元，用于存储指令队列，所述指令队列包括：按所述指令队列的前后顺序待执行的多个所述数据操作信号。


12.根据权利要求11所述的数据处理装置，其特征在于，所述传输电路还包括：
依赖关系处理单元，用于确定第s个数据操作信号与所述第s个数据操作信号之前的第s-1个数据操作信号是否存在关联关系，如所述第s个数据操作信号与所述第s-1个数据操作信号存在关联关系，将所述第s个数据操作信号缓存在所述指令存储单元内，在所述第s-1个数据操作信号执行完毕后，从所述指令存储单元提取所述第s个数据操作信号传输至所述指令处理单元；
其中所述确定所述第s个数据操作信号与第s个数据操作信号之前的第s-1个数据操作信号是否存在关联关系包括：
依据所述第s个数据操作信号提取所述第s个数据操作信号中所需数据的第一存储地址区间，依据所述第s-1个数据操作信号提取所述第s-1个数据操作信号中所需数据的第零存储地址区间，如所述第一存储地址区间与所述第零存储地址区间具有重叠的区域，确定所述第s个数据操作信号与所述第s-1个数据操作信号具有关联关系，如所述第一存储地址区间与所述第零存储地址区间不具有重叠的区域，确定所述第s个数据操作信号与所述第s-1个数据操作信号不具有关联关系。


13.一种数据处理方法，其特征在于，应用于上述权利要求1-12任一项所述的数据处理装置，所述方法包括：
所述数据处理装置中的传输电路接收所述数据处理装置中的机器学习装置发送的数据操作信号，所述数据操作信号携带数据操作信号的类型标志位以及待操作的数据的信息；
所述传输电路根据所述数据操作信号的类型标志位确定对共享存储器中的数据所执行的操作，并根据所述待操作的数据的信息对所述待操作的数据执行所述操作，得到所述机器学习装置所需的输入数据，并将所述输入数据返回至所述机器学习装置；
所述机器学习装置根据所述输入数据，执行机器学习运算，得到输出数据，以及将所述输出数据作为新的输入数据，并通过所述传输电路...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：上海;31