处理器以及用于在处理器上执行指令的方法技术

技术编号:17247908 阅读:77 留言:0更新日期:2018-02-11 05:56
本申请公开了处理器以及用于在处理器上执行指令的方法。所述处理器的一具体实施方式包括:主机交互器件、指令控制器件、片外存储器、片上缓存、阵列处理机,其中:所述主机交互器件,用于与所述处理器所连接的主机交互数据与指令,其中,所交互的数据以矩阵为粒度;所述片外存储器,用于存储从所述主机接收的、待执行矩阵运算的矩阵;所述指令控制器件,用于将从所述主机接收的外部指令转换成一系列访存指令与一系列计算指令并执行所转换成的指令。该实施方式能提高对深度学习算法的执行效率。

【技术实现步骤摘要】
处理器以及用于在处理器上执行指令的方法
本申请涉及计算机
,具体涉及处理器
,尤其涉及处理器以及用于在处理器上执行指令的方法。
技术介绍
目前在人工智能计算领域,中央处理器和图形处理器得到大量使用。虽然后者能比前者提供更大的计算能力,但这两种硬件都是基于细粒度指令流的通用处理器,他们的架构有如下的共同点:细粒度指令流中一个指令只完成加法、乘法、访问内存等最基本的计算操作;处理器中细粒度的算术逻辑单元,一个单元一般就执行一个乘加计算;支持细粒度访问的访存模式及通用的数据通路,必须要保证细粒度的内存访问及通用的数据通路。现有技术的这些处理器中,细粒度的指令流、算术逻辑单元及通用的访存模式、数据通路,对于人工智能这类特定的应用,计算效率不高。细粒度的指令流和算术逻辑单元,一方面数据需要频繁加载和存储,效率较低;对于人工智能这一大类应用,通用的架构有很多冗余电路逻辑,导致系统设计复杂,电路资源消耗多,总成本比较高。
技术实现思路
本申请的目的在于提出一种改进的处理器以及用于在处理器上执行指令的方法,来解决以上
技术介绍
部分提到的技术问题。第一方面,本申请提供了一种处理器,所述处理器包括本文档来自技高网...
处理器以及用于在处理器上执行指令的方法

【技术保护点】
一种处理器,其特征在于,所述处理器包括主机交互器件、指令控制器件、片外存储器、片上缓存、阵列处理机,其中:所述主机交互器件,用于与所述处理器所连接的主机交互数据与指令,其中,所交互的数据以矩阵为粒度;所述片外存储器,用于存储从所述主机接收的、待执行矩阵运算的矩阵;所述指令控制器件,用于将从所述主机接收的外部指令转换成一系列访存指令与一系列计算指令并执行所转换成的指令,其中,所述外部指令包括矩阵运算指令,所述访存指令用于控制所述片外存储器与所述片上缓存之间以矩阵子块为粒度进行数据交互,所述计算指令用于控制所述阵列处理机对所述片上缓存中的矩阵子块执行矩阵运算操作。

【技术特征摘要】
1.一种处理器,其特征在于,所述处理器包括主机交互器件、指令控制器件、片外存储器、片上缓存、阵列处理机,其中:所述主机交互器件,用于与所述处理器所连接的主机交互数据与指令,其中,所交互的数据以矩阵为粒度;所述片外存储器,用于存储从所述主机接收的、待执行矩阵运算的矩阵;所述指令控制器件,用于将从所述主机接收的外部指令转换成一系列访存指令与一系列计算指令并执行所转换成的指令,其中,所述外部指令包括矩阵运算指令,所述访存指令用于控制所述片外存储器与所述片上缓存之间以矩阵子块为粒度进行数据交互,所述计算指令用于控制所述阵列处理机对所述片上缓存中的矩阵子块执行矩阵运算操作。2.根据权利要求1所述的处理器,其特征在于,所述阵列处理机中的多个处理单元用于并行执行所述矩阵运算操作的子运算操作。3.根据权利要求1所述的处理器,其特征在于,所述处理器还包括用于执行激活函数计算操作的激活处理器件;以及所述指令控制器件还用于:在所述外部指令还包括激活函数计算指令时,生成用于控制所述激活处理器件工作的激活指令。4.根据权利要求3所述的处理器,其特征在于,所述指令控制器件还用于:在所述外部指令还包括激活函数计算指令时,还生成用于将所述阵列处理机对矩阵子块执行矩阵运算操作所生成的结果矩阵子块流水传输至所述激活处理器件的控制指令。5.根据权利要求1所述的处理器,其特征在于,所述指令控制器件包括:访存指令器件,用于生成一系列访存指令并控制访存指令的执行;计算指令器件,用于生成一系列计算指令并控制计算指令的执行。6.根据权利要求5所述的处理器,其特征在于,所述访存指令器件进一步用于:在通过访存指令每完成一次将待处理的矩阵子块从所述片外存储器读取到所述片上缓存的操作时,向所述计算指令器件发送第一通知信号;以及所述计算指令器件进一步用于:响应于所述第一通知信号,执行计算指令以控制所述阵列处理机对所述片上缓存中读取完成的矩阵子块按序执行矩阵运算操作。7.根据权利要求5或6所述的处理器,其特征在于,所述计算指令器件进一步用于:在通过计算指令每完成一次矩阵子块的矩阵运算操作时,向所述访存指令器件发送第二通知信号;以及所述访存指令器件进一步用于:响应于所述第二通知信号,执行将所述片外存储器中矩阵的下一个矩阵子块读取到所述片上缓存的访存指...

【专利技术属性】
技术研发人员:漆维欧阳剑王勇
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:北京,11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1