数据处理装置及相关产品制造方法及图纸

技术编号:24331004 阅读:71 留言:0更新日期:2020-05-29 19:36
本发明专利技术涉及一种数据处理装置。该数据处理装置用于执行机器学习数据的处理,包括:机器学习装置、传输电路以及共享存储器,传输电路包括多个读写处理电路和一个仲裁电路,机器学习装置包括多个机器学习单元,每个机器学习单元包括至少一个运算单元,多个机器学习单元通过第一传输接口与传输电路连接,传输电路与共享存储器连接。数据处理装置通过仲裁电路对多个机器学习单元发送的数据操作信号进行仲裁,并根据仲裁结果从共享存储器中获取数据,使得数据处理装置在进行数据操作时,多个机器学习单元可以通过一个传输电路对共享存储器进行数据操作,并通过仲裁电路对多个数据操作信号进行仲裁,在减小了硬件开销的同时,避免了信号的阻塞。

Data processing equipment and related products

【技术实现步骤摘要】
数据处理装置及相关产品
本申请涉及信息处理
,特别是涉及一种数据处理装置及相关产品。
技术介绍
随着目前人工神经网络的不断发展,越来越多的多架构的机器学习芯片逐渐问世,这些机器学习芯片在访问或者处理存储器中的数据时,由于机器学习芯片所需的数据量大,且机器学习芯片对数据处理的速度要求高,在进行数据访问或操作的过程中,常常通过增加硬件数量的方式来提升数据传输的带宽,进而提升数据处理的速度,以满足机器学习芯片对数据处理的速度要求高的特点。然而采用上述方法,机器学习芯片进行数据访问或操作时,会导致硬件开销大,硬件冗余。
技术实现思路
本申请实施例提供了一种数据处理装置及相关产品,可以减少机器学习芯片在数据访问时的硬件开销,降低了机器学习芯片在进行数据操作时的硬件冗余。第一方面,一种数据处理装置,所述数据处理装置用于执行机器学习数据的处理,所述数据处理装置包括:机器学习装置、传输电路以及共享存储器,所述传输电路包括多个读写处理电路和一个仲裁电路,所述机器学习装置包括多个机器学习单元,每个机器学习单元包括至少一个运本文档来自技高网...

【技术保护点】
1.一种数据处理装置,其特征在于,所述数据处理装置用于执行机器学习数据的处理,所述数据处理装置包括:机器学习装置、传输电路以及共享存储器,所述传输电路包括多个读写处理电路和一个仲裁电路,所述机器学习装置包括多个机器学习单元,每个机器学习单元包括至少一个运算单元,所述多个机器学习单元通过第一传输接口与所述传输电路连接,所述传输电路与所述共享存储器连接;/n所述仲裁电路,用于对所述多个机器学习单元发送的数据操作信号进行仲裁,并根据仲裁成功的数据操作信号从所述共享存储器中获取所述机器学习装置所需的输入数据;/n所述读写处理电路,用于根据所述仲裁成功的数据操作信号所携带的地址信息或者所述数据操作信号的...

【技术特征摘要】
1.一种数据处理装置,其特征在于,所述数据处理装置用于执行机器学习数据的处理,所述数据处理装置包括:机器学习装置、传输电路以及共享存储器,所述传输电路包括多个读写处理电路和一个仲裁电路,所述机器学习装置包括多个机器学习单元,每个机器学习单元包括至少一个运算单元,所述多个机器学习单元通过第一传输接口与所述传输电路连接,所述传输电路与所述共享存储器连接;
所述仲裁电路,用于对所述多个机器学习单元发送的数据操作信号进行仲裁,并根据仲裁成功的数据操作信号从所述共享存储器中获取所述机器学习装置所需的输入数据;
所述读写处理电路,用于根据所述仲裁成功的数据操作信号所携带的地址信息或者所述数据操作信号的类型,从所述多个机器学习单元中确定目标机器学习单元或者目标运算单元;以及,将所述输入数据返回至所述目标机器学习单元或者目标运算单元。


2.根据权利要求1所述的数据处理装置,其特征在于,所述机器学习装置用于根据所述输入数据,执行机器学习运算,得到输出数据。


3.根据权利要求2所述的数据处理装置,其特征在于,所述机器学习装置还用于将所述输出数据通过所述传输电路传输至所述共享存储器进行数据存储。


4.根据权利要求1所述的数据处理装置,其特征在于,所述读写处理电路包括以下处理电路中的任一种:单播读处理电路、广播处理电路;所述数据操作信号包括以下至少一种:单播读请求、单播读指令、多播指令、广播指令;
其中,单播类型的处理电路用于处理单播类型的信号,广播类型的处理电路用于处理多播或者广播类型的信号。


5.根据权利要求4所述的数据处理装置,其特征在于,所述仲裁电路,具体用于确定多个读写处理电路发送的数据操作信号的优先级,并将优先级最高的数据操作信号作为仲裁成功的数据操作信号。


6.根据权利要求4所述的数据处理装置,其特征在于,所述仲裁电路,具体用于在多个读写处理电路发送的数据操作信号优先级相同时,根据所述多个数据操作信号的类型以及预设的执行条件,确定仲裁成功的数据操作信号。


7.根据权利要求6所述的数据处理装置,其特征在于,若所述数据操作信号为单播类型的信号,则所述执行条件包括:发送所述单播类型的信号的机器学习单元的通道空闲,或者发送所述单播类型的信号的机器学习单元中的运算单元的通道空闲。


8.根据权利要求6所述的数据处理装置,其特征在于,若所述数据操作信号为多播类型的信号,则所述执行条件包括:发送所述多播类型的信号的机器学习单元的通道空闲、且所述多播类型的信号指定的目标机器学习单元的通道空闲;或者,发送所述多播类型的信号的机器学习单元中的运算单元的通道空闲、且所述多播类型的信号指定的目标运算单元的通道空闲。


9.根据权利要求6所述的数据处理装置,其特征在于,若所述数据操作信号为广播类型的信号,则所述执行条件包括:发送所述广播类型的信号的机器学习单元的通道空闲、且其他剩余的机器学习单元的通道空闲;或者,发送所述广播类型的信号的机器学习单元中的运算单元的通道空闲、且其他剩余的机器学习单元中的运算单元的通道空闲。


10.根据权利要求9所述的数据处理装置,其特征在于,所述传输电路还包括第二传输接...

【专利技术属性】
技术研发人员:不公告发明人
申请(专利权)人:上海寒武纪信息科技有限公司
类型:发明
国别省市:上海;31

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1