数据处理装置、方法及相关产品制造方法及图纸

本申请涉及一种数据处理装置、方法及相关产品。数据处理装置包括：机器学习装置、传输电路以及共享存储器，机器学习装置包括至少一个机器学习单元，机器学习单元包括至少一个发送接口和至少一个接收接口，机器学习单元所执行的单播读操作、单播写操作和广播操作中的至少两种数据操作共享机器学习单元上的一个发送接口，机器学习单元与传输电路连接，传输电路与共享存储器连接；传输电路用于根据机器学习单元上的至少一个发送接口发出的数据操作信号，从共享存储器中获取输入数据，并通过接收接口返回至机器学习装置。本数据处理装置能够有效节省机器学习单元中数据操作信号发送接口的数量，降低硬件的面积和功耗。

【技术实现步骤摘要】
数据处理装置、方法及相关产品
本申请涉及信息处理
，特别是涉及一种数据处理装置、方法及相关产品。
技术介绍
随着信息技术的不断发展和日益增长的需求，人们对数据访问和数据处理的需求越来越高，随之对一些处理数据和访问数据的处理器的要求也越来越严格。以一种通用处理器为例，多个通用处理器核(例如，CPU核)构成的多核处理器，以其强大的并行计算能力，成为一种主流。但是随着目前机器学习算法的不断发展，越来越多架构的机器学习芯片逐渐问世，这些机器学习芯片经常需要以单播读、单播写、广播等多种方式访问或者处理共享存储中的数据，因此设置有相应的多个传输接口，导致机器学习芯片面积较大。因此，如何简化机器学习芯片的传输接口以降低机器学习芯片的面积，成为当前技术人员亟待解决的技术问题。
技术实现思路
基于此，有必要针对上述技术问题，提供一种能够简化机器学习芯片的传输接口的数据处理装置、方法及相关产品。第一方面，本申请实施例提供了一种数据处理装置，所述数据处理装置包括：机器学习装置、传输电路以及共享存储器，所述机器学习装置包括至少一个机器学习单元，所述机器学习单元包括至少一个发送接口和至少一个接收接口，所述机器学习单元所执行的单播读操作、单播写操作和广播操作中的至少两种数据操作共享所述机器学习单元上的一个发送接口，所述机器学习单元与所述传输电路连接，所述传输电路与所述共享存储器连接；所述传输电路，用于根据所述机器学习装置通过所述机器学习单元上的所述至少一个发送接口发出的数据操作信号，从所述共享存储器中获取所述机器学习装置所需的输入数据，并将所述输入数据通过所述接收接口返回至所述机器学习装置。第二方面，本申请实施例提供了一种组合处理装置，该组合处理装置包括如第一方面所述的数据处理装置、通用互联接口，和其他处理装置。该数据处理装置与上述其他处理装置进行交互，共同完成用户指定的操作。该组合处理装置还可以包括存储装置，该存储装置分别与所述数据处理装置和所述其他处理装置连接，用于保存所述数据处理装置和所述其他处理装置的数据。第三方面，本申请实施例提供了一种机器学习芯片，该机器学习芯片包括上述第一方面所述的数据处理装置、上述第二方面所述的组合处理装置。第四方面，本申请实施例提供了一种机器学习芯片封装结构，该机器学习芯片封装结构包括上述第三方面所述的机器学习芯片。第五方面，本申请实施例提供了一种板卡，该板卡包括上述第四方面所述的机器学习芯片封装结构。第六方面，本申请实施例提供了一种电子装置，该电子装置包括上述第五方面所述的板卡。上述数据处理装置、方法及相关产品，通过至少一个机器学习单元执行单播读操作、单播写操作、广播操作中的至少两种数据操作时共享所述机器学习单元上的一个发送接口，能够有效节省机器学习单元中数据操作信号发送接口的数量，节省硬件资源，降低硬件的面积和功耗。附图说明图1为一个实施例中数据处理装置的结构示意图之图一；图2为一个实施例中机器学习单元的结构示意图；图3为一个实施例中数据处理装置的结构示意图之图二；图4为一个实施例中数据处理装置的结构示意图之图三；图5为一个实施例中数据处理装置的结构示意图之图四；图6为一个实施例中数据处理装置的结构示意图之图五；图7为一个实施例中数据处理装置的结构示意图之图六；图8为一个实施例中数据处理装置的结构示意图之图七；图9为一个实施例中一种组合处理装置的结构示意图；图10为一个实施例中另一种组合处理装置的结构示意图；图11为一个实施例中一种板卡的结构示意图。具体实施方式为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。本专利技术实施例涉及的数据处理装置，可以通过软件、硬件或者软硬件结合的方式实现；该数据处理装置可以为图1所示的部分或者全部。所述数据处理装置可以包括：机器学习装置11、传输电路12以及共享存储器13，所述机器学习装置11可以包括至少一个机器学习单元15，所述机器学习单元15可以包括至少一个发送接口141和至少一个接收接口142，所述机器学习单元15所执行的单播读操作、单播写操作和广播操作中的至少两种数据操作共享所述机器学习单元15上的一个发送接口，所述机器学习单元15与所述传输电路12连接，所述传输电路12与所述共享存储器13连接；所述传输电路12，用于根据所述机器学习装置11通过所述机器学习单元15上的所述至少一个发送接口141发出的数据操作信号，从所述共享存储器13中获取所述机器学习装置所需的输入数据，并将所述输入数据通过所述接收接口142返回至所述机器学习装置。需要说明的是，上述机器学习单元15可以包括第一传输接口14(图中未示出)，第一传输接口可以包括上述至少一个发送接口141和至少一个接收接口142。可选的，所述机器学习装置11可以用于根据输入数据，执行机器学习运算，得到输出数据。可选的，所述机器学习装置11还可以用于将输出数据通过传输电路12传输至共享存储器13进行数据存储。具体的，若机器学习装置11用于执行一种神经网络运算时，机器学习装置11可以根据输入神经元数据和/或权值数据，执行人工神经网络运算，得到输出神经元数据，以及将输出神经元数据作为新的输入神经元数据，并通过传输电路12传输至共享存储器13进行数据存储。需要说明的是，上述机器学习单元、传输电路、共享存储器以及各类接口均可以通过硬件电路的方式实现。示例性地，传输电路可以是广播总线(broadcastbus)；共享存储器可以是非易失性和/或易失性存储器，包括但不限于随机存取存储器(RAM)、高速缓冲存储器等；各类接口可以对应一个或多个数据I/O(in/out，读入读出)接口或I/O引脚。本申请提出的数据处理装置可以应用于机器学习运算，其中，机器学习运算包括神经网络运算、k-means运算、支持向量机运算等。当上述机器学习装置进行神经网络计算时，可选地，上述输入数据可以包括输入神经元数据和/或权值数据，该输入神经元数据和/或权值数据是机器学习装置在执行一种人工神经网络运算时需要输入的数据；相应的，上述输出数据可以包括输出神经元数据，该输出神经元数据是机器学习装置在执行一种人工神经网络运算时输出的中间结果或最终结果。可以理解的是，因为权值数据和神经元数据是可以复用的，因此在计算过程中输入数据并不一定要包括输入神经元数据和权值数据，也可以仅包括输入神经元数据，也可以仅包括权值数据。以神经网络运算为例(如果不进行额外说明，本实施例中均以神经网络运算为例进行说明)，本申请提出的数据处理装置可以进行神经网络中的一层的运算，也可以进行神经网络中的多层的运算。对于多层神经网络，其实现过程可以是：在正向运算中，当上一层人工神经网络执行完成之后，下一层的运算指令会将运算单元中计算出的输出神经元数据作为本文档来自技高网...

【技术保护点】
1.一种数据处理装置，其特征在于，所述数据处理装置包括：机器学习装置、传输电路以及共享存储器，所述机器学习装置包括至少一个机器学习单元，所述机器学习单元包括至少一个发送接口和至少一个接收接口，所述机器学习单元所执行的单播读操作、单播写操作和广播操作中的至少两种数据操作共享所述机器学习单元上的一个发送接口，所述机器学习单元与所述传输电路连接，所述传输电路与所述共享存储器连接；/n所述传输电路，用于根据所述机器学习装置通过所述机器学习单元上的所述至少一个发送接口发出的数据操作信号，从所述共享存储器中获取所述机器学习装置所需的输入数据，并将所述输入数据通过所述接收接口返回至所述机器学习装置。/n

【技术特征摘要】
1.一种数据处理装置，其特征在于，所述数据处理装置包括：机器学习装置、传输电路以及共享存储器，所述机器学习装置包括至少一个机器学习单元，所述机器学习单元包括至少一个发送接口和至少一个接收接口，所述机器学习单元所执行的单播读操作、单播写操作和广播操作中的至少两种数据操作共享所述机器学习单元上的一个发送接口，所述机器学习单元与所述传输电路连接，所述传输电路与所述共享存储器连接；
所述传输电路，用于根据所述机器学习装置通过所述机器学习单元上的所述至少一个发送接口发出的数据操作信号，从所述共享存储器中获取所述机器学习装置所需的输入数据，并将所述输入数据通过所述接收接口返回至所述机器学习装置。


2.根据权利要求1所述的数据处理装置，其特征在于，所述机器学习装置用于根据所述输入数据，执行机器学习运算，得到输出数据。


3.根据权利要求2所述的数据处理装置，其特征在于，所述机器学习装置还用于将所述输出数据通过所述传输电路传输至所述共享存储器进行数据存储。


4.根据权利要求1中所述的数据处理装置，其特征在于，所述传输电路包括：第二传输接口、与所述第二传输接口连接的读写处理电路、以及与所述读写处理电路连接的仲裁电路；
所述读写处理电路，用于接收所述至少一个机器学习单元通过所述至少一个发送接口和所述第二传输接口发送的数据操作信号，并将所述数据操作信号传输至所述仲裁电路，以及将所述仲裁电路从所述共享存储器中获取到的数据通过所述第二传输接口和所述至少一个接收接口返回所述数据操作信号对应的机器学习单元；
所述仲裁电路，用于根据预设仲裁规则仲裁从所述读写处理电路接收到的数据操作信号，并根据仲裁成功的数据操作信号对所述共享存储器中的数据进行操作。


5.根据权利要求4中所述的数据处理装置，其特征在于，所述读写处理电路包括：单播读处理电路、单播写处理电路、广播处理电路；所述单播读处理电路用于处理单播读信号，所述单播写处理电路用于处理单播写信号，所述广播处理电路用于处理广播信号和/或多播信号。


6.根据权利要求5所述的数据处理装置，其特征在于，所述读写处理电路被划分为多个处理电路组，一个机器学习单元对应一个处理电路组，所述处理电路组包括一个单播读处理电路、一个单播写处理电路和一个广播处理电路。


7.根据权利要求6所述的数据处理装置，其特征在于，所述处理电路组中的单播读处理电路和广播处理电路返回的数据共享所述机器学习单元上的一个共享数据接收接口。


8.根据权利要求6所述的数据处理装置，其特征在于，所述至少一个发送接口包括：单播写操作和广播操作共享的共享信号发送接口、以及单播读信号发送接口。


9.根据权利要求8所述的数据处理装置，其特征在于，所述第二传输接口包括多个接口组，所述一个处理电路组对应一个接口组，所述一个接口组包括：与所述单播读处理电路连接的单播读信号接收接口和单播读数据发送接口、与所述单播写处理电路连接的单播读信号接收接口、与所述广播处理电路连接的广播信号接收接口和广播数据发送接口。


10.根据权利要求9所述的数据处理装置，其特征在于，所述一个处理电路组中的单播写处理电路和广播处理电路共享所述对应的接口组中的一个共享信号接收接口，所述处理电路组对应的共享信号接收接口与所述处理电路组对应的机器学习单元的共享信号发送接口连接，所述处理电路组中的单播读信号接收接口与所述处理电路组对应的机器学习单元的单播读信号发送接口连接。


11.根据权利要求9所述的数据处理装置，其特征在于，所述一个处理电路组中的单播读处理电路和广播处理电路共享所述对应的接口组中的一个共享数据发送接口，所述处理电路组对应的共享数据发送接口与所述处理电路组对...

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：上海;31