神经网络的计算方法、装置、存储介质及芯片制造方法及图纸

技术编号:34885874 阅读:51 留言:0更新日期:2022-09-10 13:43
本发明专利技术涉及人工智能技术领域,且公开了一种神经网络的计算方法、装置、存储介质及芯片,其中方法包括:读取VLIW指令,VLIW指令包括SIMD扩展指令子集,SIMD扩展指令子集包括数据传输指令、数据转移指令和智能计算指令中的至少一种;响应于SIMD扩展指令子集中的所有指令,通过智能处理器并行执行相应的数据操作,以进行神经网络的智能计算。该方法可通过对SIMD扩展指令子集中的指令进行扩展,实现不同神经网络的适应性结构映射和数据流维护,同时采用VLIW和SIMD指令形式,能够提高指令级并行和数据级并行性能,从而既能获得执行效率,保障计算灵活性,又能降低计算能耗,提高计算能耗比。耗比。耗比。

【技术实现步骤摘要】
神经网络的计算方法、装置、存储介质及芯片


[0001]本专利技术属于人工智能
,具体涉及一种神经网络的计算方法、装置、存储介质及芯片。

技术介绍

[0002]目前,神经网络处于高速发展时期,网络结构不断更新。设计用于神经网络的智能计算的协处理器的关键问题是数据存储访问和数据流维护。其中,数据存储访问的核心是卷积计算是高维的,而片外存储访问是通过一维线性地址实现,导致数据访问较为分散。此外,数据流需要在芯片上进行重组,这对数据调度的灵活性提出了更高的要求。
[0003]为了满足可重构的需求,相关技术中的智能计算结构大多依赖于硬件动态调度,通过修改寄存器来调整数据路径。但是该计算结构会产生大量的硬件调度逻辑,引入非常大的硬件复杂度和能量消耗,硬件计算维护数据流复杂度高,效率相对不高。

技术实现思路

[0004]本专利技术旨在至少在一定程度上解决相关技术中的技术问题之一。为此,本专利技术的第一个目的在于提出一种神经网络的计算方法,可通过对SIMD扩展指令子集中的指令进行扩展,实现不同神经网络的适应性结构映射和数据流维护,本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种神经网络的计算方法,其特征在于,所述方法包括:读取超长指令字VLIW指令,所述VLIW指令包括单指令多数据结构SIMD扩展指令子集,所述SIMD扩展指令子集包括数据传输指令、数据转移指令和智能计算指令中的至少一种;响应于所述SIMD扩展指令子集中的所有指令,通过智能处理器并行执行相应的数据操作,以进行神经网络的智能计算。2.根据权利要求1所述的神经网络的计算方法,其特征在于,所述响应于所述SIMD扩展指令子集中的所有指令,通过智能处理器并行执行相应的数据操作,包括:响应于所述数据传输指令中的数据传入指令,将数据从共享内存中传入所述智能处理器的内部全局缓存中;响应于所述数据转移指令中的计算转入指令,对所述智能处理器的内部全局缓存中的数据进行数据流转换,并将转换结果传入输入数据向量寄存器中;响应于所述智能计算指令,对所述输入数据向量寄存器中的数据进行智能计算,并将计算结果传入输出数据向量寄存器中;响应于所述数据转移指令中的计算转出指令,对所述输出数据向量寄存器中的数据进行数据流转换,并将转换结果传入所述智能处理器的内部全局缓存中;响应于所述数据传输指令中的数据传出指令,将所述智能处理器的内部全局缓存中的数据传入所述共享内存。3.根据权利要求2所述的神经网络的计算方法,其特征在于,所述数据流转换包括维度变换、数据交织和数据块划分中的一种或多种。4.根据权利要求2所述的神经网络的计算方法,其特征在于,所述智能计算指令包括卷积计算指令、池化计算指令和归一化计算指令中的一种或多种。5.根据权利要求2所述的神经网络的计算方法,其特征在于,所述数据传输指令包括存储共享内存地址的源寄存器、存储智能处理器内部全局缓存地址的目的寄存器和用于指示传输长度的立即数;所述数据转移指令包括存储智能处理器内部全局缓存地址的源寄存器、数据寄存器堆中的目的寄存器和用于指示传输长度的立即数;所述智能计算指令包括作为计算输入的数据寄存器堆中的源寄存器、作为计算输出的数据寄存器堆中的目的寄存器和用于指示计算向量长度的立即数。6.根据权利要求1所述的神经网络的计算方法,其特征在于,所述VLIW指令包括多个指令槽,所述SIMD扩展指令子集中不同的指令位于不同的指令槽中。7.根据权利要求6所述的神经网络的计算方法,其特征在于,所述VLIW指令是基于精简指令集计算机RISC的自定义Custom指令进行扩展获得。8.根据权利要求1所述的神经网络的计算方法,其特征在于,所述VLIW指令还包括通用处理器执行指令,所述方法还包括:响应于所述通用处理器执行指令,通过主处理器顺序执行相应的数据操作。9.根据权利要求1所述的神经网络的计算方法,其特征在于,所述方法包括:获取计算需求和神经网络结构参数;根据所述计算需求和所述神经网络结构参数生成所述VLIW指令。10.一种计算机可读存储介质,其特征在于,其上存储有神经网络的计算程序,该神经
网络的计算程序被处理器执行时实现根据权利要求1

...

【专利技术属性】
技术研发人员:刘亮李雷李伟立王于波陈震任增民张萌张盛兵
申请(专利权)人:北京智芯微电子科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1