应用于人工智能芯片的计算处理方法、装置及芯片制造方法及图纸

技术编号:39331983 阅读:27 留言:0更新日期:2023-11-12 16:07
本发明专利技术是关于应用于人工智能芯片的计算处理方法、装置及芯片。其中,该方法包括:响应于接收到指令流,从所述指令流中解析出第一指示信息,所述第一指示信息用于指示配置流缓存单元中的目标配置流;其中,配置流缓存单元中存储了多个配置流,每个配置流包括一套对计算单元的配置参数的可选参数配置;控制计算单元基于目标配置流的可选参数配置对数据流进行计算处理。本发明专利技术通过独立于数据流和配置流之外的指令流,从已经下发的多套可选参数配置中指定参数配置,从而使芯片的计算单元可以快速进行参数配置的切换以配合数据流的计算。进行参数配置的切换以配合数据流的计算。进行参数配置的切换以配合数据流的计算。

【技术实现步骤摘要】
应用于人工智能芯片的计算处理方法、装置及芯片


[0001]本专利技术涉及计算机
,尤其涉及应用于人工智能芯片的计算处理方法、装置及芯片。

技术介绍

[0002]现有技术中,用于检测任务、计算任务的人工智能芯片方案主要分为两类,一类是通用处理器,如CPU(Central Processing Unit,中央处理器)、FPGA(Field Programmable Gate Array,现场可编程门阵列)等,通过软件实现人工智能计算;另一类是专门针对人工神经网络的加速处理器,如Nvidia的GPU(Graphics Processing Unit,图形处理器)、Google的TPU(Tensor Processing Units,张量处理器)等。这些芯片方案在不同场景下有其优劣势,但是对于多任务自分配和调度的问题,需要在软硬件结合的设计上做更多的优化和创新。
[0003]传统的人工神经网络处理器中,面临着算力不足、功耗过大、时延较长等问题,严重影响人工智能芯片在更多场景中的普及和使用。例如,在现有方案中,芯片内部的计算单元需要遵循先配本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种应用于人工智能芯片的计算处理方法,其特征在于,包括:响应于接收到指令流,从所述指令流中解析出第一指示信息,所述第一指示信息用于指示配置流缓存单元中的目标配置流;其中,配置流缓存单元中存储了多个配置流,每个配置流包括一套对计算单元的配置参数的可选参数配置;控制计算单元基于目标配置流的可选参数配置对数据流进行计算处理。2.根据权利要求1所述的方法,其特征在于,所述第一指示信息还用于指示数据流缓存单元中的目标数据流;所述控制计算单元基于目标配置流的可选参数配置对数据流进行计算处理,包括:控制计算单元基于目标配置流的可选参数配置对目标数据流进行计算处理。3.根据权利要求1所述的方法,其特征在于,所述方法还包括:响应于接收到指令流,从所述指令流中解析出第二指示信息,所述第二指示信息用于直接指示对计算单元的配置参数的参数配置;控制计算单元基于目标配置流的可选参数配置以及指令流直接指示的参数配置对数据流进行计算处理,其中,所述指令流直接指示的参数配置比目标配置流的可选参数配置具有更高优先级。4.根据权利要求1所述的方法,其特征在于,所述方法还包括:检测数据流中包括的参数配置信息;确定检测到的参数配置信息对应的数据流参数配置;控制计算单元基于目标配置流的可选参数配置以及所述数据流参数配置对数据流进行计算处理,其中,所述数据流参数配置比目标配置流的可选参数配置具有更高优先级。5.根据权利要求4所述的方法,其特征在于,所述检测数据流中包括的参数配置信息,包括以下方式中的至少一种:检测数据流中预留指定区域存在的参数配置信息;检测数据流的数据分类属性,将数据分类属性作为参数配置信息。6.一种应用于人工智能芯片的计算处理装置,其特征在于,包括:解析模块,用于响应于接收到指令流,从所述指令流中解析出第一指示信息,所述第一...

【专利技术属性】
技术研发人员:王洲唐晓楠孙烨磊王春祥王雅婷李慧清杨威杨雷明邰阳徐彦卿
申请(专利权)人:北京星宇天航科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1