一种支持分块计算的脉冲神经网络硬件加速装置及方法制造方法及图纸

技术编号:46623136 阅读:0 留言:0更新日期:2025-10-14 21:18
本发明专利技术公开了一种支持分块计算的脉冲神经网络硬件加速装置及方法,属于人工智能、硬件加速领域。脉冲神经网络硬件加速装置通过解析协议包并执行分块计算任务;脉冲神经网络硬件加速方法包括分块处理设计方法以及协议包设计方法;分块方案根据FPGA可支持的最大资源量进行设计,通过分块处理,可以让FPGA拥有推理网络模型庞大的脉冲神经网络的能力;协议包内根据脉冲神经网络的推理流程,添加了计算流程中需要用到的字段,以便FPGA进行识别以及做出相应配置;脉冲神经网络硬件加速装置按照分块方案与数据包方案进行设计,内部实现了数据调度策略以及神经元膜电位计算,提高了数据传输效率与计算效率。

【技术实现步骤摘要】

本专利技术属于人工智能、硬件加速领域,具体涉及一种支持分块计算的脉冲神经网络硬件加速装置及方法


技术介绍

1、随着人工神经网络的发展,脉冲神经网络(spiking neural network,snn)逐渐崭露头角,其通过模拟生物神经元的脉冲时序编码和事件驱动机制,在生物可解释性、低能耗和实时动态信息处理方面展现出独特优势。然而,snn的计算复杂度高、网络规模庞大,传统处理器或图形加速器(如cpu、gpu)因并行性不足、能效比低等问题难以满足其部署需求。

2、现场可编程门阵列(fpga)凭借其可重构硬件架构、高并行计算能力和事件驱动特性,成为snn加速与部署的理想平台。现有技术做到的脉冲神经网络硬件加速器普遍完成的是一些网络规模相对较小的模型,原因在于fpga做逻辑运算时,受限于内部的查找表资源(look up table,lut),因此现有的设计很难实现网络规模庞大的脉冲神经网络推理。


技术实现思路

1、为解决现有技术的不足,根据硬件fpga板卡资源确定最大计算的神经网络输入,实现大规模神经网本文档来自技高网...

【技术保护点】

1.一种支持分块计算的脉冲神经网络硬件加速装置,包括任务清单处理模块、协议包调度中心模块、任务栈模块、神经元模块、公式计算模块,其特征在于:

2.根据权利要求1所述的一种支持分块计算的脉冲神经网络硬件加速装置,其特征在于:所述任务栈模块包括任务栈状态机、任务缓存区、公式分配控制块、神经元配置模块;神经元配置模块用于神经元的配置,任务栈状态机控制计算阵列的运行状态,若计算阵列没有任务,则通过所述任务站模块从所述任务清单模块中读取任务,同时,所述任务栈模块根据任务内的地址,从所述任务缓存内读取任务的协议包,进入有任务状态;所述任务栈状态机包含空闲状态、初始化状态、配置神经元状态、...

【技术特征摘要】

1.一种支持分块计算的脉冲神经网络硬件加速装置,包括任务清单处理模块、协议包调度中心模块、任务栈模块、神经元模块、公式计算模块,其特征在于:

2.根据权利要求1所述的一种支持分块计算的脉冲神经网络硬件加速装置,其特征在于:所述任务栈模块包括任务栈状态机、任务缓存区、公式分配控制块、神经元配置模块;神经元配置模块用于神经元的配置,任务栈状态机控制计算阵列的运行状态,若计算阵列没有任务,则通过所述任务站模块从所述任务清单模块中读取任务,同时,所述任务栈模块根据任务内的地址,从所述任务缓存内读取任务的协议包,进入有任务状态;所述任务栈状态机包含空闲状态、初始化状态、配置神经元状态、加载权重状态、公式计算状态、完成状态,在任务栈模块接收到初始化协议包后,任务栈状态机从空闲状态跳转至初始化状态,对所有阵列内神经元初始化,此状态下清空所有神经元内缓存区;接收到配置神经元的协议包时,任务栈状态机跳转至配置神经元,同时开始解析神经元公式相关的协议包,通过所述公式分配控制块,将公式存入神经元的公式缓存区中;接收到权重协议包后,任务栈状态机跳转到加载权重的状态,神经元开始从权重库中取出权重加载到神经元内的权重缓存区,加载完成后,任务栈进入公式计算状态,等待所有神经元公式计算完成后,任务栈进入完成状态。

3.根据权利要求1所述的一种支持分块计算的脉冲神经网络硬件加速装置,其特征在于:所述任务栈模块对神经元计算状态的控制,包括任务存储与挂载、计算状态控制、神经元并行计算;所述任务存储与挂载,用于解析并存储从所述协议包处理调度中心获取的命令类协议包,当前没有任务时,从任务栈中读取一个任务挂载;所述计算状态控制,根据当前计算阵列中所有神经元的状态以及所述任务栈模块读出的任务,动态调整神经元往后的状态;所述神经元并行计算,在计算过程中,基于所述任务栈模块发放的并行权重累加任务,利用阵列内神经元的并行特性进行并行计算。

4.根据权利要求1所述的一种支持分块计算的脉冲神经网络硬件加速装置,其特征在于:所述公式计算模块,包含堆栈和电流值缓存区,任务栈模块进入公式计算状态后,公式计算模块开始计算神经元微分方程,接收所述神...

【专利技术属性】
技术研发人员:顾高名马德王超梁嘉铠黄钊岳克强李文钧郑兴
申请(专利权)人:杭州电子科技大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1