神经网络处理器中多核心同步系统及系统组件技术方案

技术编号:44002337 阅读:30 留言:0更新日期:2025-01-10 20:19
本公开提供了一种神经网络处理器中多核心同步系统及系统组件,属于计算机技术领域。该系统包括:神经网络处理器和的系统组件;所述神经网络处理器包括任务调度处理器和多个核心;所述系统组件分别与所述任务调度处理器、各所述核心通过系统总线连接;所述系统组件,用于在所述任务调度处理器的控制下,在各所述核心之间通信以使得各所述核心同步执行分配的模型任务。该系统用以高效的核心间通信和同步。

【技术实现步骤摘要】

本公开涉及计算机,尤其涉及一种神经网络处理器中多核心同步系统及系统组件


技术介绍

1、npu(neural-network processing unit,神经网络处理器)作为专门被设计用于加速人工神经网络计算的芯片,已经被广泛用于各种ai应用中。相比于传统的cpu(centralprocessing unit,中央处理器)、gpu(graphics processing unit,图像处理器)等运算平台,npu采用“数据驱动并行计算”的架构,以专用于卷积运算的mac(multiply accumulate,乘积累加运算)阵列为核心,因此更擅长处理视频、图像类等海量多媒体数据。由于人工神经网络模型通常需要大量的计算资源来进行训练和推理,单核npu可能无法满足实际需求,而多核npu可以将多个模型或单个大模型拆分分配到不同的核心上进行并行计算,能够显著提高计算效率、实现更灵活的任务分配和负载均衡。

2、随着核心数量和算力的不断增加,npu需要一种高效的多核同步机制,来保证并行计算时多个核心间数据的一致性和计算结果的正确性,从而提高应用的可靠性和稳本文档来自技高网...

【技术保护点】

1.一种神经网络处理器中多核心同步系统,其特征在于,包括:神经网络处理器和系统组件;所述神经网络处理器包括任务调度处理器和多个核心;

2.根据权利要求1所述的神经网络处理器中多核心同步系统,其特征在于,所述神经网络处理器还包括共享缓存,用于存储所述任务调度处理器和各所述核心的中间计算结果。

3.根据权利要求2所述的神经网络处理器中多核心同步系统,其特征在于,所述系统还包括物理存储器,通过系统总线连接所述共享缓存;

4.根据权利要求1所述的神经网络处理器中多核心同步系统,其特征在于,所述系统组件包括中断管理器,所述中断管理器中包括各所述核心对应的发起中断...

【技术特征摘要】

1.一种神经网络处理器中多核心同步系统,其特征在于,包括:神经网络处理器和系统组件;所述神经网络处理器包括任务调度处理器和多个核心;

2.根据权利要求1所述的神经网络处理器中多核心同步系统,其特征在于,所述神经网络处理器还包括共享缓存,用于存储所述任务调度处理器和各所述核心的中间计算结果。

3.根据权利要求2所述的神经网络处理器中多核心同步系统,其特征在于,所述系统还包括物理存储器,通过系统总线连接所述共享缓存;

4.根据权利要求1所述的神经网络处理器中多核心同步系统,其特征在于,所述系统组件包括中断管理器,所述中断管理器中包括各所述核心对应的发起中断寄存器和确认中断寄存器;

5.根据权利要求4所述的神经网络处理器中多核心同步系统,其特征在于,

6.根据权利要求5所述的神经网络处理器中多核心同步系统,其特征在于,所述系统组件还用于:将各所述核心的中断完成的信息合并后上报给主机的中央...

【专利技术属性】
技术研发人员:郭莹清
申请(专利权)人:深圳市中兴微电子技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1