一种基于数据流架构的神经网络计算系统及方法技术方案

本发明专利技术实施例公开了一种基于数据流架构的神经网络计算系统及方法。该基于数据流架构的神经网络计算系统包括：片外存储器和神经网络加速模块，所述神经网络加速模块包括转换单元、片内存储器和计算单元；所述片外存储器用于存储数据；所述转换单元连接在所述片内存储器和所述片外存储器之间，用于实现所述片外存储器的第一通信总线和所述片内存储器的第二通信总线之间的转换，以将所述数据存储至所述片内存储器；所述计算单元通过第二通信总线和所述片内存储器直接连接，用于基于从所述片内存储器接收的所述数据进行计算。通过在片内存储器和片外存储器之间布置一个转换单元，实现了保证成本的情况下提高数据流架构的神经网络计算的速度和效率。

【技术实现步骤摘要】
一种基于数据流架构的神经网络计算系统及方法
本申请实施例涉及神经网络
，例如一种基于数据流架构的神经网络计算系统及方法。
技术介绍
随着计算机的快速发展，神经网络数据的计算越来越重要。神经网络的计算需要大量的数据。数据流架构是根据数据的不断流动完成整个计算过程，其中没有指令集的参与。传统的指令集架构要经过几个阶段才能完成一次完整操作，取指令阶段，指令译码阶段，执行指令阶段，访存取数阶段，结果写回阶段，整个过程效率极低。和指令集架构相比，数据流架构可以最大化芯片的性能和效率，但是因为数据流架构要求时刻有数据在流动，因此对存储，总线和带宽提出了严格的需求。目前，对于数据流架构的人工智能加速芯片来说，这些计算的数据主要来源于两种方式。方式一：通过总线访问外部存储，比如通过AXI(AdvancedeXtensibleInterface)总线访问片外的双倍数据速率(DoubleDataRate，DDR)存储器；方式二：通过在片上放一个容量比较大的随机存取存储器(RandomAccessMemory，RAM)，神经网络每一层的输出都存储在片上本文档来自技高网...

【技术保护点】
1.一种基于数据流架构的神经网络计算系统，其特征在于，包括：/n片外存储器和神经网络加速模块，所述神经网络加速模块包括转换单元、片内存储器和计算单元；/n所述片外存储器用于存储数据；/n所述转换单元连接在所述片内存储器和所述片外存储器之间，用于实现所述片外存储器的第一通信总线和所述片内存储器的第二通信总线之间的转换，以将所述数据存储至所述片内存储器；/n所述计算单元通过第二通信总线和所述片内存储器直接连接，用于基于从所述片内存储器接收的所述数据进行计算。/n

【技术特征摘要】
1.一种基于数据流架构的神经网络计算系统，其特征在于，包括：
片外存储器和神经网络加速模块，所述神经网络加速模块包括转换单元、片内存储器和计算单元；
所述片外存储器用于存储数据；
所述转换单元连接在所述片内存储器和所述片外存储器之间，用于实现所述片外存储器的第一通信总线和所述片内存储器的第二通信总线之间的转换，以将所述数据存储至所述片内存储器；
所述计算单元通过第二通信总线和所述片内存储器直接连接，用于基于从所述片内存储器接收的所述数据进行计算。


2.如权利要求1所述的神经网络计算系统，其特征在于，所述计算单元通过第一通信总线和所述片外存储器直接连接，用于基于从片外存储器直接接收的所述数据进行计算。


3.如权利要求2所述的神经网络计算系统，其特征在于，所述计算单元包括：
数据流向选择子单元，用于控制所述数据的流向。


4.如权利要求1或2所述的神经网络计算系统，其特征在于，所述第一通信总线为AXI总线，所述转换单元和所述片外存储器之间通过AXI总线协议对所述数据进行交互或所述计算单元和所述片外存储器之间通过AXI总线协议对所述数据进行交互。


5.如权利要求1所述的神经网络计算系统，其特征在于，所述第二通信总线为Sif总线，所述转换单元和所述片内存储器之间通过Sif总线协议对所述数据进行交互，所述片内存储器和所述计算单元之间通过所述Sif总线协议对所述数据进行交互。


6.如权利要求5所述的神经网络计算系统，其特征在于，所述Sif总线的通道为至少一个。

<...

【专利技术属性】
技术研发人员：王佳东，李远超，蔡权雄，牛昕宇，
申请(专利权)人：深圳鲲云信息科技有限公司，
类型：发明
国别省市：广东;44