数据处理装置及相关产品制造方法及图纸

技术编号:24331004 阅读:55 留言:0更新日期:2020-05-29 19:36
本发明专利技术涉及一种数据处理装置。该数据处理装置用于执行机器学习数据的处理,包括:机器学习装置、传输电路以及共享存储器,传输电路包括多个读写处理电路和一个仲裁电路,机器学习装置包括多个机器学习单元,每个机器学习单元包括至少一个运算单元,多个机器学习单元通过第一传输接口与传输电路连接,传输电路与共享存储器连接。数据处理装置通过仲裁电路对多个机器学习单元发送的数据操作信号进行仲裁,并根据仲裁结果从共享存储器中获取数据,使得数据处理装置在进行数据操作时,多个机器学习单元可以通过一个传输电路对共享存储器进行数据操作,并通过仲裁电路对多个数据操作信号进行仲裁,在减小了硬件开销的同时,避免了信号的阻塞。

Data processing equipment and related products

【技术实现步骤摘要】
数据处理装置及相关产品
本申请涉及信息处理
,特别是涉及一种数据处理装置及相关产品。
技术介绍
随着目前人工神经网络的不断发展,越来越多的多架构的机器学习芯片逐渐问世,这些机器学习芯片在访问或者处理存储器中的数据时,由于机器学习芯片所需的数据量大,且机器学习芯片对数据处理的速度要求高,在进行数据访问或操作的过程中,常常通过增加硬件数量的方式来提升数据传输的带宽,进而提升数据处理的速度,以满足机器学习芯片对数据处理的速度要求高的特点。然而采用上述方法,机器学习芯片进行数据访问或操作时,会导致硬件开销大,硬件冗余。
技术实现思路
本申请实施例提供了一种数据处理装置及相关产品,可以减少机器学习芯片在数据访问时的硬件开销,降低了机器学习芯片在进行数据操作时的硬件冗余。第一方面,一种数据处理装置,所述数据处理装置用于执行机器学习数据的处理,所述数据处理装置包括:机器学习装置、传输电路以及共享存储器,所述传输电路包括多个读写处理电路和一个仲裁电路,所述机器学习装置包括多个机器学习单元,每个机器学习单元包括至少一个运算单元,所述多个机器学习单元通过第一传输接口与所述传输电路连接,所述传输电路与所述共享存储器连接;所述仲裁电路,用于对所述多个机器学习单元发送的数据操作信号进行仲裁,并根据仲裁成功的数据操作信号从所述共享存储器中获取所述机器学习装置所需的输入数据;所述读写处理电路,用于根据所述仲裁成功的数据操作信号所携带的地址信息或者所述数据操作信号的类型,从所述多个机器学习单元中确定目标机器学习单元或者目标运算单元;以及,将所述输入数据返回至所述目标机器学习单元或者目标运算单元。第二方面,本申请实施例提供了一种组合处理装置,该组合处理装置包括如第一方面所述的数据处理装置、通用互联接口,和其他处理装置。该数据处理装置与上述其他处理装置进行交互,共同完成用户指定的操作。该组合处理装置还可以包括存储装置,该存储装置分别与所述数据处理装置和所述其他处理装置连接,用于保存所述数据处理装置和所述其他处理装置的数据。第三方面,本申请实施例提供了一种机器学习芯片,该机器学习芯片包括上述第一方面所述的数据处理装置、上述第二方面所述的组合处理装置。第四方面,本申请实施例提供了一种机器学习芯片封装结构,该机器学习芯片封装结构包括上述第三方面所述的机器学习芯片;第五方面,本申请实施例提供了一种板卡,该板卡包括上述第四方面所述的机器学习芯片封装结构。第六方面,本申请实施例提供了一种电子装置,该电子装置包括上述第三方面所述的机器学习芯片或者上述第五方面所述的板卡。上述数据处理装置、方法及相关产品,数据处理装置通过仲裁电路对多个机器学习单元发送的数据操作信号进行仲裁,并根据仲裁结果从共享存储器中获取机器学习装置所需的输入数据,使得数据处理装置在进行数据操作时,多个机器学习单元可以通过一个传输电路对共享存储器进行数据操作,并通过仲裁电路对多个数据操作信号进行仲裁,在减小了硬件开销的同时,避免了多个数据操作信号的阻塞。附图说明为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。图1为一个实施例中数据处理装置的结构示意图;图2为一个实施例中机器学习单元的结构示意图;图3为一个实施例中数据处理装置的结构示意图;图4为一个实施例中数据处理装置的结构示意图;图5为一个实施例中数据处理装置的结构示意图;图6为一个实施例中数据处理装置的结构示意图;图7为一个实施例中一种组合处理装置的结构示意图;图8为一个实施例中另一种组合处理装置的结构示意图;图9为一个实施例中一种板卡的结构示意图。具体实施方式下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。本申请的说明书和权利要求书及附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。本专利技术实施例涉及的数据处理装置,可以通过软件、硬件或者软硬件结合的方式实现;该数据处理装置可以为图1所示的部分或者全部。该数据处理装置用于执行机器学习数据的处理,数据处理装置可以包括:机器学习装置11、传输电路12以及共享存储器13,传输电路12包括多个读写处理电路121和一个仲裁电路122,仲裁电路122用于对多个机器学习单元15发送的数据操作信号进行仲裁,并根据仲裁成功的数据操作信号从共享存储器13中获取机器学习装置11所需的输入数据;读写处理电路121用于根据仲裁成功的数据操作信号所携带的地址信息或者数据操作信号的类型,从多个机器学习单元中确定目标机器学习单元或者目标运算单元;以及,将输入数据返回至目标机器学习单元或者目标运算单元;机器学习装置11包括多个机器学习单元15,每个机器学习单元15包括至少一个运算单元151,多个机器学习单元通过第一传输接口14与传输电路12连接,传输电路12与共享存储器13连接。可选的,所述机器学习装置11可以用于根据输入数据,执行机器学习运算,得到输出数据。可选的,所述机器学习装置11还可以用于将输出数据通过传输电路12传输至共享存储器13进行数据存储。具体的,若机器学习装置11用于执行一种神经网络运算时,机器学习装置11可以根据输入神经元数据和权值数据,执行人工神经网络运算,得到输出神经元数据,以及将输出神经元数据作为新的输入神经元数据,并通过传输电路12传输至共享存储器13进行数据存储。需要说明的是,上述机器学习单元、传输电路、共享存储器以及各类接口均可以通过硬件电路的方式实现。示例性地,传输电路可以是广播总线(broadcastbus);共享存储器可以是非易失性和/或易失性存储器,包括但不限于随机存取存储器(RAM)、高速缓冲存储器等;各类接口可以对应一个或多个数据I/O(in/out,读入读出)接口或I/O引脚。本申请本文档来自技高网...

【技术保护点】
1.一种数据处理装置,其特征在于,所述数据处理装置用于执行机器学习数据的处理,所述数据处理装置包括:机器学习装置、传输电路以及共享存储器,所述传输电路包括多个读写处理电路和一个仲裁电路,所述机器学习装置包括多个机器学习单元,每个机器学习单元包括至少一个运算单元,所述多个机器学习单元通过第一传输接口与所述传输电路连接,所述传输电路与所述共享存储器连接;/n所述仲裁电路,用于对所述多个机器学习单元发送的数据操作信号进行仲裁,并根据仲裁成功的数据操作信号从所述共享存储器中获取所述机器学习装置所需的输入数据;/n所述读写处理电路,用于根据所述仲裁成功的数据操作信号所携带的地址信息或者所述数据操作信号的类型,从所述多个机器学习单元中确定目标机器学习单元或者目标运算单元;以及,将所述输入数据返回至所述目标机器学习单元或者目标运算单元。/n

【技术特征摘要】
1.一种数据处理装置,其特征在于,所述数据处理装置用于执行机器学习数据的处理,所述数据处理装置包括:机器学习装置、传输电路以及共享存储器,所述传输电路包括多个读写处理电路和一个仲裁电路,所述机器学习装置包括多个机器学习单元,每个机器学习单元包括至少一个运算单元,所述多个机器学习单元通过第一传输接口与所述传输电路连接,所述传输电路与所述共享存储器连接;
所述仲裁电路,用于对所述多个机器学习单元发送的数据操作信号进行仲裁,并根据仲裁成功的数据操作信号从所述共享存储器中获取所述机器学习装置所需的输入数据;
所述读写处理电路,用于根据所述仲裁成功的数据操作信号所携带的地址信息或者所述数据操作信号的类型,从所述多个机器学习单元中确定目标机器学习单元或者目标运算单元;以及,将所述输入数据返回至所述目标机器学习单元或者目标运算单元。


2.根据权利要求1所述的数据处理装置,其特征在于,所述机器学习装置用于根据所述输入数据,执行机器学习运算,得到输出数据。


3.根据权利要求2所述的数据处理装置,其特征在于,所述机器学习装置还用于将所述输出数据通过所述传输电路传输至所述共享存储器进行数据存储。


4.根据权利要求1所述的数据处理装置,其特征在于,所述读写处理电路包括以下处理电路中的任一种:单播读处理电路、广播处理电路;所述数据操作信号包括以下至少一种:单播读请求、单播读指令、多播指令、广播指令;
其中,单播类型的处理电路用于处理单播类型的信号,广播类型的处理电路用于处理多播或者广播类型的信号。


5.根据权利要求4所述的数据处理装置,其特征在于,所述仲裁电路,具体用于确定多个读写处理电路发送的数据操作信号的优先级,并将优先级最高的数据操作信号作为仲裁成功的数据操作信号。


6.根据权利要求4所述的数据处理装置,其特征在于,所述仲裁电路,具体用于在多个读写处理电路发送的数据操作信号优先级相同时,根据所述多个数据操作信号的类型以及预设的执行条件,确定仲裁成功的数据操作信号。


7.根据权利要求6所述的数据处理装置,其特征在于,若所述数据操作信号为单播类型的信号,则所述执行条件包括:发送所述单播类型的信号的机器学习单元的通道空闲,或者发送所述单播类型的信号的机器学习单元中的运算单元的通道空闲。


8.根据权利要求6所述的数据处理装置,其特征在于,若所述数据操作信号为多播类型的信号,则所述执行条件包括:发送所述多播类型的信号的机器学习单元的通道空闲、且所述多播类型的信号指定的目标机器学习单元的通道空闲;或者,发送所述多播类型的信号的机器学习单元中的运算单元的通道空闲、且所述多播类型的信号指定的目标运算单元的通道空闲。


9.根据权利要求6所述的数据处理装置,其特征在于,若所述数据操作信号为广播类型的信号,则所述执行条件包括:发送所述广播类型的信号的机器学习单元的通道空闲、且其他剩余的机器学习单元的通道空闲;或者,发送所述广播类型的信号的机器学习单元中的运算单元的通道空闲、且其他剩余的机器学习单元中的运算单元的通道空闲。


10.根据权利要求9所述的数据处理装置,其特征在于,所述传输电路还包括第二传输接...

【专利技术属性】
技术研发人员:不公告发明人
申请(专利权)人:上海寒武纪信息科技有限公司
类型:发明
国别省市:上海;31

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1