一种基于NoC的卷积计算装置制造方法及图纸

技术编号:43373617 阅读:27 留言:0更新日期:2024-11-19 17:53
本发明专利技术特别涉及一种基于NoC的卷积计算装置。该基于NoC的卷积计算装置,由若干计算型NoC路由器节点以环形拓扑组成,没有单独额外的处理单元;计算型NoC路由器节点0通过网络接口连接到存储单元,负责从存储单元获取权重包和输入包;所述权重包和输入包进入环形拓扑结构后开始移动,权重和待计算数据依次卸载至计算型NoC路由器节点,进行在途计算,计算结果由计算型NoC路由器节点0根据需求执行非线性变换操作后,将最终结果发送到存储单元中完成存储。该基于NoC的卷积计算装置,将计算模块集成到NoC的传统路由器中,将计算任务的流程优化为加载‑通信/计算‑存储,且不需要额外的计算单元,显著缩减了整个NoC系统卷积运算处理时间,提高了处理效率。

【技术实现步骤摘要】

本专利技术涉及计算机通信与计算,特别涉及一种基于noc的卷积计算装置。


技术介绍

1、在硬件层面加速卷积神经网络等算法已逐渐成为流行的选择,片上网络(noc)在处理单元(pe)之间及pe与外部存储器之间的数据通信任务中起着至关重要的作用。

2、片上网络(noc)是针对传统片上系统(soc)通信局限性而提出的一种新的片上通信方法,具有出色的可扩展性和通信效率。它通过在芯片内部构建类似宏观网络的通讯措施,以实现各处理器核心之间高效的数据交换。

3、在传统的计算流程中,计算任务的流程为加载-通信-计算-通信-存储,通信对于整个流程来说是完全额外的开销。

4、针对该问题,本专利技术提出了一种基于noc的卷积计算装置。


技术实现思路

1、本专利技术为了弥补现有技术的缺陷,提供了一种简单高效的基于noc的卷积计算装置。

2、本专利技术是通过如下技术方案实现的:

3、一种基于noc的卷积计算装置,其特征在于:由a×b+1个计算型noc路由器节点以环形拓扑组成,没有本文档来自技高网...

【技术保护点】

1.一种基于NoC的卷积计算装置,其特征在于:由a×b+1个计算型NoC路由器节点以环形拓扑组成,没有单独额外的处理单元,其中a×b为卷积核尺寸;

2.根据权利要求1所述的基于NoC的卷积计算装置,其特征在于:所述权重包包括1个头,1个尾和a×b个包含权重的体flit,初始分发计数dist count为a×b;将权重w00卸载并存储在计算型NoC路由器节点1的权重缓存中,分发计数dist count减1;以此类推,直至最后一个权重wa-1b-1卸载在计算型NoC路由器节点a×b处,分发计数dist count变为0,权重值完成分发。

3.根据权利要求2所述的基于N...

【技术特征摘要】

1.一种基于noc的卷积计算装置,其特征在于:由a×b+1个计算型noc路由器节点以环形拓扑组成,没有单独额外的处理单元,其中a×b为卷积核尺寸;

2.根据权利要求1所述的基于noc的卷积计算装置,其特征在于:所述权重包包括1个头,1个尾和a×b个包含权重的体flit,初始分发计数dist count为a×b;将权重w00卸载并存储在计算型noc路由器节点1的权重缓存中,分发计数dist count减1;以此类推,直至最后一个权重wa-1b-1卸载在计算型noc路由器节点a×b处,分发计数dist count变为0,权重值完成分发。

3.根据权利要求2所述的基于noc的卷积计算装置,其特征在于:输入包是由从待计算矩阵中取出的元素值组成的数据包,包括一个头,一个尾,a×b个包含输入数据和1个用于存储部分和psum的体flit,初始计算计数comp count为a×b;

4.根据权利要求3所述的基于noc的卷积计算装置,其特征在于:所述计算型noc路由器节点包括n个输入端口和m个输出端口,n个输入端口与m个输出端口之间设有虚拟通道,n-m交叉开关和多功能单元mfu;此外,所述计算型noc路由器节点还设有虚拟通道控制模块,路由控制模块和交叉开关控制模块。

5.根据权利要求4所述的基于noc的卷积计算装置,其特征在于:为了避免死锁和阻塞现象的出现,每一个输入...

【专利技术属性】
技术研发人员:董俊逸姜凯赵鑫鑫
申请(专利权)人:山东浪潮科学研究院有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1