神经网络模型的运行方法、可读介质和电子设备技术

本申请涉及人工智能领域，公开了一种神经网络模型的运行方法、可读介质和电子设备。该方法应用于处理器包括多个内核的电子设备，并且该方法包括：在运行神经网络模型的过程中，检测到处理器存在N个空闲内核；对于神经网络模型中当前未被运行的M个计算节点，按照分配优先级从高到低的顺序，选择出L个未被运行的计算节点分配给所述N个空闲内核中的L个空闲内核，其中，N、M、L为正整数，并且L≤N。由于运行顺序在前的计算节点的分配优先级较高，从而可以降低处理器内核的空闲率，进而提高电子设备运行神经网络模型的速度。运行神经网络模型的速度。运行神经网络模型的速度。

【技术实现步骤摘要】
神经网络模型的运行方法、可读介质和电子设备


[0001]本申请涉及人工智能领域，特别涉及一种神经网络模型的运行方法、可读介质和电子设备。

技术介绍

[0002]随着神经网络模型的计算节点的数量的增加，为提高神经网络模型的运行速度，可以利用多核计算资源对神经网络模型进行并行计算。例如，电子设备在运行神经网络模型之前，可以先随机确定电子设备的处理器中用于运行神经网络模型中各计算节点的内核，以便于电子设备在运行该神经网络模型时，可以通过分配的内核运行各计算节点，实现神经网络模型的并行计算。但是，处理器的内核数量通常小于神经网络模型的计算节点的数量，在某一计算节点的输入数据为其他计算节点的计算结果，但该计算结果还未计算完成的情况下，由于已经预先确定用于运行各计算节点的内核，会造成用于运行该计算节点的内核由于等待输入数据而处于空闲状态，造成处理器内核资源的浪费，降低了神经网络模型并行计算的速度。

技术实现思路

[0003]有鉴于此，本申请实施例提供了一种神经网络模型的运行方法、可读介质和电子设备。电子设备在运行神经网络模型的过程中，若检测本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种神经网络模型的运行方法，应用于电子设备，其特征在于，所述电子设备的处理器包括多个内核；并且所述方法包括：在运行所述神经网络模型的过程中，检测到所述处理器存在N个空闲内核；对于所述神经网络模型中当前未被运行的M个计算节点，按照分配优先级从高到低的顺序，选择出L个未被运行的计算节点分配给所述N个空闲内核中的L个空闲内核，其中，N、M、L为正整数，并且L≤N。2.根据权利要求1所述的方法，其特征在于，还包括：根据所述神经网络模型各计算节点的运行顺序，确定各所述计算节点的分配优先级。3.根据权利要求2所述的方法，其特征在于，所述根据所述神经网络模型各计算节点的运行顺序，确定各所述计算节点的分配优先级，包括：在待分配优先级的待分配计算节点未连接输入计算节点的情况下，确定所述待分配计算节点的优先级为第1级；在待分配计算节点连接至少一个输入计算节点、并且所连接的至少一个输入计算节点所具有的最高分配优先级为第j级的情况下，确定待分配计算节点的优先级为第j+1级，其中，第j级所表示的优先级高于所述第j+1级；其中一计算节点的输入计算节点是指输出结果为该计算节点的输入数据的计算节点。4.根据权利要求3所述的方法，其特征在于，在M>N的情况下，L＝N；所述未被运行的计算节点中的所具有的最高分配优先级为第k级，所述第k级分配优级包括P个未被运行的计算节点；并且所述按照分配优先级从高到低的顺序，选择出L个未被运行的计算节点分配给所述N个空闲内核中的L个空闲内核，包括：在P<L的情况下，将所述P个未被运行的计算节点分配给所述L个空闲内核中的P个空闲内核，并且按照分配优先级从高到低的顺序从分配优先级低于第k级的计算节点中选取L
‑
P个计算节点分配给未分配计算节点的L
‑
P个空闲内核；在P≥L的情况下，从所述P个未被运行的计算节点中选取的L个计算节点...

【专利技术属性】
技术研发人员：余宗桥，许礼武，
申请(专利权)人：安谋科技中国有限公司，
类型：发明
国别省市：