一种计算装置及相关产品制造方法及图纸

技术编号:26342356 阅读:35 留言:0更新日期:2020-11-13 20:32
本申请公开了一种计算装置,该计算装置应用于机器学习芯片,该机器学习芯片设置于板卡上,该板卡包括:存储器件,用于存储数据;接口装置,用于实现机器学习芯片与外部设备之间的数据传输;控制器件,用于对机器学习芯片的状态进行监控和管理,上述计算装置包括:运算单元、控制单元和存储单元。采用本申请实施例能够减少机器学习芯片的计算时间和计算能耗。

A computing device and related products

【技术实现步骤摘要】
一种计算装置及相关产品
本申请涉及信息处理
,具体涉及一种计算装置及相关产品。
技术介绍
随着信息技术的不断发展和人们日益增长的需求,人们对信息及时性的要求越来越高了。目前,终端对信息的获取以及处理均是基于通用处理器获得的。在实践中发现,这种基于通用处理器运行软件程序来处理信息的方式,受限于通用处理器的运行速率,特别是在通用处理器负荷较大的情况下,信息处理效率较低、时延较大,对于信息处理的计算模型例如计算模型的正向运算来说,正向运算的计算量更大,通用的处理器完成正向运算的时间长,效率低,功耗高。
技术实现思路
本申请实施例提供了一种计算装置及相关产品,可以利用机器学习输入的相似性计算的机器学习加速器,可以充分地利用输入的相似性,极大地提高性能。第一方面,提供一种计算装置,所述计算装置用于执行机器学习计算,所述计算装置包括:运算单元以及控制单元;所述控制单元,用于获取计算指令,并发送所述计算指令到所述运算单元;所述运算单元,用于依据所述计算指令对输入数据进行量化,并对量化后的所述输入数据执本文档来自技高网...

【技术保护点】
1.一种计算装置,其特征在于,所述计算装置用于执行机器学习计算,所述计算装置包括:运算单元以及控制单元;/n所述控制单元,用于获取计算指令,并发送所述计算指令到所述运算单元;/n所述运算单元,用于依据所述计算指令对输入数据进行量化,并对量化后的所述输入数据执行运算操作,得到运算结果,具体为:依据量化后的所述输入数据与上一次计算过程的量化后的输入数据之间的相似性进行运算。/n

【技术特征摘要】
1.一种计算装置,其特征在于,所述计算装置用于执行机器学习计算,所述计算装置包括:运算单元以及控制单元;
所述控制单元,用于获取计算指令,并发送所述计算指令到所述运算单元;
所述运算单元,用于依据所述计算指令对输入数据进行量化,并对量化后的所述输入数据执行运算操作,得到运算结果,具体为:依据量化后的所述输入数据与上一次计算过程的量化后的输入数据之间的相似性进行运算。


2.根据权利要求1所述的装置,其特征在于,所述运算单元包括复用单元;
所述复用单元,用于将量化后的所述输入数据与上一次计算过程的量化后的输入数据进行比较,若比较结果满足预设条件,则跳过此次输入数据的计算而采用上一次执行运算的结果,若比较结果为不满足所述预设条件,则将量化后的所述输入数据与上一次计算过程的量化后的输入数据之差与权值进行计算,并将得到的结果对上一次执行运算的结果进行修正。


3.根据权利要求1或2所述的装置,其特征在于,所述控制单元包括:依赖关系处理单元和指令缓存单元;
所述依赖关系处理单元,用于确定第j计算指令与所述第j计算指令之前的第j-1计算指令是否存在关联关系,如所述第j计算指令与所述第j-1计算指令存在关联关系,将所述第j计算指令缓存在所述指令缓存单元内,在所述第j-1计算指令执行完毕后,从所述指令缓存单元提取所述第j计算指令传输至所述运算单元,j为正整数。


4.根据权利要求1-3任一项所述的装置,其特征在于,所述运算单元包括一个主处理电路、一个或多个分支处理电路以及多个从处理电路,
所述主处理电路,用于将一个输入数据分配成多个数据块,将所述多个数据块中的至少一个数据块以及多个计算指令中的至少一个计算指令发送给所述分支处理电路;
所述分支处理电路,用于转发所述主处理电路与所述多个从处理电路之间的数据块和计算指令;
所述多个从处理电路,用于依据接收到的计算指令和数据块执行运算得到中间结果,并将所述中间结果传输给所述分支处理电路;
所述主处理电路,用于将所述分支处理电路发送的所述中间结果进行处理得到所述计算指令的计算结果。


5.一种...

【专利技术属性】
技术研发人员:不公告发明人
申请(专利权)人:中科寒武纪科技股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1