神经网络加速器的控制方法、装置及神经网络加速器制造方法及图纸

本申请公开了一种神经网络加速器的控制方法、装置及神经网络加速器，涉及人工智能技术。具体方案包括：在获取到输入脉冲数据包后，获取输入激励数据包，并存储所述输入激励数据包；所述输入激励数据包用于判断当前计算核是否满足更新条件；获取所述当前计算核的更新条件；根据存储的所述输入数据包和获取的所述更新条件，判断所述当前计算核是否满足所述更新条件；当所述当前计算核满足更新条件时，执行更新运算并发送输出脉冲数据包。本申请可以使得神经网络加速器中的每个计算核根据接收脉冲的实际延迟时间进行更新运算，显著提高了神经网络加速器的整体运算性能。

Control method, device and neural network accelerator of neural network accelerator

【技术实现步骤摘要】
神经网络加速器的控制方法、装置及神经网络加速器
本申请涉及人工智能技术，特别是涉及一种神经网络加速器的控制方法、装置及神经网络加速器。
技术介绍
人工智能技术的高速发展，使得作为类脑运算的高效能计算设备的神经网络加速器迎来了发展的高峰。神经网络加速器模拟了人脑的运算模式，利用膜电位和脉冲携带的脉冲电位进行运算。为了保证神经网络加速器中的每个计算核在不同的接收脉冲时间延迟的情况下，均可完成更新运算。现有技术中，通常根据最坏工作情况、最长延迟时间，设计更新运算的时间步长，使得无论接收脉冲的实际延迟时间如何，神经网络加速器中的每个计算核均在接收脉冲的最长延迟时间下工作，大大降低了神经网络加速器的整体运算性能。
技术实现思路
有鉴于此，本申请的主要目的在于提供一种神经网络加速器的控制方法，该方法可以使得神经网络加速器中的每个计算核根据接收脉冲的实际延迟时间进行更新运算，显著提高了神经网络加速器的整体运算性能。为了达到上述目的，本申请提出的技术方案为：第一方面，本申请实施例提供了一种神经网络加速器的控制方法，应用于计算核的控制设备，包括以下步骤：在获取到输入脉冲数据包后，获取输入激励数据包；所述输入激励数据包包括当前计算核的更新条件；存储所述输入激励数据包，并根据存储的所述输入激励数据包，判断是否满足当前计算核的更新条件；当满足当前计算核的更新条件时，执行更新运算并发送输出脉冲数据包；生成并发送输出激励数据包；所述输出激励数据包包括目标计算核的计算核地址和目标计算核的更新条件。一种可能的实施方式中，所述当前计算核的更新条件为接收到预设数量个激励数据包；所述根据存储的所述输入激励数据包，判断是否满足当前计算核的更新条件的步骤，包括：根据存储的每个输入激励数据包的总数量，判断是否接收到预设数量个激励数据包。一种可能的实施方式中，所述输入脉冲数据包携带有至少一个输入脉冲电位和每个所述输入脉冲电位对应的神经元地址；所述执行更新运算的步骤，包括：针对每个所述输入脉冲电位，根据该输入脉冲电位对应的神经元地址，将该输入脉冲电位发送给目标神经元；接收所述目标神经元发出的输出脉冲电位；所述输出脉冲电位为所述目标神经元根据所述目标神经元的膜电位、所述目标神经元接收的输入脉冲电位、预设的泄露电位和预设电位阈值生成的；根据每个所述输出脉冲电位，生成所述输出脉冲数据包。一种可能的实施方式中，所述执行更新运算的步骤之后，所述方法还包括：清空存储的所述输入激励数据包。一种可能的实施方式中，所述生成并发送输出激励数据包的步骤包括：获取所述目标计算核的计算核地址和所述目标计算核的更新条件；根据所述目标计算核的计算核地址和所述目标计算核的更新条件，生成所述输出激励数据包；发送所述输出激励数据包。第二方面，本申请实施例还提供一种神经网络加速器的控制装置，应用于计算核的控制设备，包括：激励获取模块，用于在获取到输入脉冲数据包后，获取输入激励数据包；所述输入激励数据包包括当前计算核的更新条件；激励判断模块，用于根据存储的所述输入激励数据包，判断是否满足当前计算核的更新条件；更新模块，用于当满足当前计算核的更新条件时，执行更新运算并发送输出脉冲数据包；激励发送模块，用于生成并发送输出激励数据包；所述输出激励数据包包括目标计算核的计算核地址和目标计算核的更新条件。一种可能的实施方式中，所述当前计算核的更新条件为接收到预设数量个激励数据包；所述激励判断模块，具体用于：判断是否接收到预设数量个激励数据包。一种可能的实施方式中，所述输入脉冲数据包携带有至少一个输入脉冲电位和每个所述输入脉冲电位对应的神经元地址；所述更新模块，具体包括：神经元发送单元，用于针对每个所述输入脉冲电位，根据该输入脉冲电位对应的神经元地址，将该输入脉冲电位发送给目标神经元；神经元接收单元，用于接收所述目标神经元发出的输出脉冲电位；所述输出脉冲电位为所述目标神经元根据所述目标神经元的膜电位、所述目标神经元接收的输入脉冲电位、预设的泄露电位和预设电位阈值生成的；脉冲生成单元，用于根据每个所述输出脉冲电位，生成所述输出脉冲数据包。一种可能的实施方式中，所述装置还包括：清空模块，用于清空存储的所述输入激励数据包。一种可能的实施方式中，所述激励发送模块，包括：获取单元，用于获取所述目标计算核的计算核地址和所述目标计算核的更新条件；生成单元，用于根据所述目标计算核的计算核地址和所述目标计算核的更新条件，生成所述输出激励数据包；发送单元，用于发送所述输出激励数据包。第三方面，本申请实施例还提供一种神经网络加速器，包括：配置设备、存储设备、路由设备和计算核；所述计算核，包括：神经元和控制设备；所述控制设备，用于实现上述第一方面及第一方面中任一种可能的实施方式的步骤，或实现上述第二方面及第二方面中任一种可能的实施方式的装置。综上所述，本申请提出的一种神经网络加速器的控制方法、装置及神经网络加速器。有别于现有技术中每个计算核均在接收脉冲的最长延迟时间下工作的方法，本申请的计算核获取并存储输入激励数据包，并根据输入激励数据包判断是否满足当前计算核的更新条件，当满足更新条件时，无需等待，直接进行更新运算。每级计算核均在满足更新条件时直接进行更新运算，使得神经网络加速器中的每个计算核均根据接收脉冲的实际延迟时间进行更新运算，显著提高了神经网络加速器的整体运算性能。附图说明为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。图1为本申请实施例提供的一种神经网络加速器的架构示意图；图2为神经网络加速器中路由设备的架构示意图；图3为神经网络加速器中计算核的架构示意图；图4a为神经网络加速器中计算核间一种连接方式的示意图；图4b为神经网络加速器中计算核间另一种连接方式的示意图；图4c为神经网络加速器中计算核间另一种连接方式的示意图；图5为本申请实施例提供的一种神经网络加速器的控制方法的流程示意图；图6为一种三层神经网络的神经网络加速器的架构示意图；图7为本申请实施例提供的另一种神经网络加速器的控制方法的流程示意图；图8为计算核中控制设备与目标神经元的示意图；图9a为神经网络加速器中计算核间一种连接方式的示意图；图9b为神经网络加速器的一种更新运算时间示意图；图9c为神经网络加速器的另一种更新运算时间示意图；图10为本申请实施例提供的一种神经网络加速器的控制装置的结构示意图；图11为神经网络加速器的控制装本文档来自技高网...

【技术保护点】
1.一种神经网络加速器的控制方法，其特征在于，应用于计算核的控制设备，包括：/n在获取到输入脉冲数据包后，获取输入激励数据包，并存储所述输入激励数据包；所述输入激励数据包用于判断当前计算核是否满足更新条件；/n获取所述当前计算核的更新条件；/n根据存储的所述输入激励数据包和获取的所述更新条件，判断所述当前计算核是否满足所述更新条件；/n当所述当前计算核满足更新条件时，执行更新运算并发送输出脉冲数据包。/n

【技术特征摘要】
1.一种神经网络加速器的控制方法，其特征在于，应用于计算核的控制设备，包括：
在获取到输入脉冲数据包后，获取输入激励数据包，并存储所述输入激励数据包；所述输入激励数据包用于判断当前计算核是否满足更新条件；
获取所述当前计算核的更新条件；
根据存储的所述输入激励数据包和获取的所述更新条件，判断所述当前计算核是否满足所述更新条件；
当所述当前计算核满足更新条件时，执行更新运算并发送输出脉冲数据包。


2.根据权利要求1所述的方法，其特征在于，所述当前计算核的更新条件为接收到预设数量个激励数据包；
所述根据存储的所述输入激励数据包，判断是否满足当前计算核的更新条件的步骤，包括：
根据存储的输入激励数据包的总数量，判断是否接收到预设数量个激励数据包。


3.根据权利要求1所述的方法，其特征在于，所述输入脉冲数据包携带有至少一个输入脉冲电位和每个所述输入脉冲电位对应的神经元地址；
所述执行更新运算的步骤，包括：
针对每个所述输入脉冲电位，根据该输入脉冲电位对应的神经元地址，将该输入脉冲电位发送给目标神经元；
接收所述目标神经元发出的输出脉冲电位；所述输出脉冲电位为所述目标神经元根据所述目标神经元的膜电位、所述目标神经元接收的输入脉冲电位、预设的泄露电位和预设电位阈值生成的；
根据每个所述输出脉冲电位，生成所述输出脉冲数据包。


4.根据权利要求1所述的方法，其特征在于，所述执行更新运算的步骤之后，所述方法还包括：
清空存储的所述输入激励数据包。


5.根据权利要求1所述的方法，其特征在于，所述执行更新运算并发送输出脉冲数据包的步骤之后，所述方法还包括：
生成并发送输出激励数据包；所述输出激励数据包包括目标计算核的计算核地址；所述输出激励数据包用于判断所述目标计算核是否满足更新条件。


6.根据权利要求5所述...

【专利技术属性】
技术研发人员：陈虹，张吉霖，
申请(专利权)人：清华大学，
类型：发明
国别省市：北京;11