本申请公开了一种针对动态计算图提前调度的方法和装置。所述针对动态计算图提前调度的方法，包括：基于动态计算图对应的目标训练数据集和目标训练数据集中各样本在动态计算图中所对应的执行路径，构建部署图；部署图包括多个部署节点，部署节点内存储有与部署节点对应的动态节点的执行概率；将部署图和动态计算图映射于处理器；基于映射后的部署图和动态计算图，提前调度动态计算图中动态节点的计算资源。本申请的针对动态计算图提前调度的方法，能够实现资源调度的提前响应，节省大量响应时间，从而提高调度速率。从而提高调度速率。从而提高调度速率。
【技术实现步骤摘要】
针对动态计算图提前调度的方法和装置
[0001]本申请属于计算机
，尤其涉及一种针对动态计算图提前调度的方法和装置。
技术介绍
[0002]计算图模型广泛应用于神经网络算法的描述，由计算节点和表示节点之间的数据依赖的边组成，包括静态图和动态计算图，其中，动态计算图为包含控制或随机执行流程的，执行过程会根据具体输入改变的计算图。相关技术中，主要是面向静态图的部署，然而对于动态计算图的部署，仍存调度效率低、部署效果差以及部署困难等问题。
技术实现思路
[0003]本申请旨在至少解决现有技术中存在的技术问题之一。为此，本申请提出一种针对动态计算图提前调度的方法和装置，能够实现资源调度的提前响应，节省大量响应时间，从而提高调度速率；且适用于动态计算图和静态图资源调度，具有广泛的应用范围和普适性。
[0004]第一方面，本申请提供了一种针对动态计算图提前调度的方法，该方法包括：
[0005]基于动态计算图对应的目标训练数据集和所述目标训练数据集中各样本在所述动态计算图中所对应的执行路径，构建部署图；所述部署图包括多个部署节点，所述部署节点内存储有与所述部署节点对应的动态节点的执行概率；
[0006]将所述部署图和所述动态计算图映射于处理器；
[0007]基于映射后的所述部署图和所述动态计算图，提前调度所述动态计算图中动态节点的计算资源。
[0008]根据本申请的针对动态计算图提前调度的方法，通过目标训练数据集确定动态计算图中各计算节点的执行概率，基于执行概率构造部署图，并在后续调度应用过程中，基于部署图提前调度下一计算节点所需的计算资源，能够实现资源调度的提前响应，节省大量响应时间，从而提高调度速率。
[0009]根据本申请的一个实施例，所述基于动态计算图对应的目标训练数据集和所述目标训练数据集中各样本在所述动态计算图中所对应的执行路径，构建部署图，包括：
[0010]基于所述动态计算图中每一个动态节点，构建与所述动态节点相对应的部署节点；其中，所述部署节点用于监视所述动态计算图中的被监视节点，所述被监视节点为所述动态计算图中与所述部署节点相对应的动态节点之前的至少一个动态节点；
[0011]基于各所述样本的执行路径，确定各个所述部署节点对应的动态节点的执行概率；
[0012]基于所述部署节点和所述部署节点对应的动态节点的执行概率，确定所述部署图。
[0013]根据本申请的一个实施例，所述基于各所述样本的执行路径，确定各个所述部署
节点对应的动态节点的执行概率，包括：
[0014]在所述样本在所述动态计算图中前向传播一次的情况下，所述部署图记录当前动态节点执行的次数；
[0015]将各所述动态节点执行的次数转化为在所述部署节点所监视的所述被监视节点执行的情况下，所述部署节点对应的动态节点执行的条件概率，基于所述条件概率确定各所述部署节点对应的动态节点的执行概率。
[0016]根据本申请的一个实施例，基于以下至少一项映射方式，将所述部署图和所述动态计算图映射于处理器，所述处理器包括众核架构，所述映射方式包括：
[0017]同映射，包括将所述部署节点和与所述部署节点对应的动态节点映射至所述众核架构中的同一计算单元；
[0018]前映射，包括将所述部署节点和所述部署节点对应的被监视节点映射至所述众核架构中的同一计算单元；
[0019]中心映射，包括将所述部署图的全部部署节点统一映射至所述众核架构中的至少一个计算单元；
[0020]随机映射，包括将所述部署节点和所述动态节点随机映射至所述众核架构。
[0021]根据本申请的一个实施例，所述多个部署节点中第一目标节点和第二目标节点之间存在连接通道，所述连接通道用于收发目标信息。
[0022]根据本申请的一个实施例，所述基于映射后的所述部署图和所述动态计算图，提前调度所述动态计算图中动态节点的计算资源，包括：
[0023]基于至少一个被监视节点的执行状态，分别确定监视所述至少一个被监视节点的部署节点所对应的动态节点的执行概率；所述执行状态包括执行或未执行；
[0024]在所述执行概率大于第一阈值的情况下，提前调度大于第一阈值的所述执行概率所对应的动态节点的计算资源。
[0025]根据本申请的一个实施例，所述基于映射后的所述部署图和所述动态计算图，提前调度所述动态计算图中动态节点的计算资源，包括：
[0026]基于目标带宽信息，确定提前调度的所述动态节点的目标数量；
[0027]提前调度所述动态计算图中所述目标数量的动态节点对应的计算资源。
[0028]第二方面，本申请提供了一种针对动态计算图提前调度的装置，该装置包括：
[0029]第一处理模块，用于基于动态计算图对应的目标训练数据集和所述目标训练数据集中各样本在所述动态计算图中所对应的执行路径，构建部署图；所述部署图包括多个部署节点，所述部署节点内存储有与所述部署节点对应的动态节点的执行概率；
[0030]第二处理模块，用于将所述部署图和所述动态计算图映射于处理器；
[0031]第三处理模块，用于基于映射后的所述部署图和所述动态计算图，提前调度所述动态计算图中动态节点的计算资源。
[0032]根据本申请的针对动态计算图提前调度的装置，通过目标训练数据集确定动态计算图中各计算节点的执行概率，基于执行概率构造部署图，并在后续调度应用过程中，基于部署图提前调度下一计算节点所需的计算资源，能够实现资源调度的提前响应，节省大量响应时间，从而提高调度速率。
[0033]第三方面，本申请提供了一种电子设备，包括存储器、处理器及存储在所述存储器
上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述第一方面所述的针对动态计算图提前调度的方法。
[0034]第四方面，本申请提供了一种非暂态计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上述第一方面所述的针对动态计算图提前调度的方法。
[0035]第五方面，本申请提供了一种芯片，所述芯片包括处理器和通信接口，所述通信接口和所述处理器耦合，所述处理器用于运行程序或指令，实现如第一方面所述的针对动态计算图提前调度的方法。
[0036]第六方面，本申请提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上述第一方面所述的针对动态计算图提前调度的方法。
[0037]本申请实施例中的上述一个或多个技术方案，至少具有如下技术效果之一：
[0038]通过目标训练数据集确定动态计算图中各计算节点的执行概率，基于执行概率构造部署图，并在后续调度应用过程中，基于部署图提前调度下一计算节点所需的计算资源，能够实现资源调度的提前响应，节省大量响应时间，从而提高调度速率。
[0039]进一步的，通过将部署节点和与部署节点对应的动态节点映射至众核架构中的同一计算单元，可以本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种针对动态计算图提前调度的方法，其特征在于，包括：基于动态计算图对应的目标训练数据集和所述目标训练数据集中各样本在所述动态计算图中所对应的执行路径，构建部署图；所述部署图包括多个部署节点，所述部署节点内存储有与所述部署节点对应的动态节点的执行概率；将所述部署图和所述动态计算图映射于处理器；基于映射后的所述部署图和所述动态计算图，提前调度所述动态计算图中动态节点的计算资源。2.根据权利要求1所述的针对动态计算图提前调度的方法，其特征在于，所述基于动态计算图对应的目标训练数据集和所述目标训练数据集中各样本在所述动态计算图中所对应的执行路径，构建部署图，包括：基于所述动态计算图中每一个动态节点，构建与所述动态节点相对应的部署节点；其中，所述部署节点用于监视所述动态计算图中的被监视节点，所述被监视节点为所述动态计算图中与所述部署节点相对应的动态节点之前的至少一个动态节点；基于各所述样本的执行路径，确定各个所述部署节点对应的动态节点的执行概率；基于所述部署节点和所述部署节点对应的动态节点的执行概率，确定所述部署图。3.根据权利要求2所述的针对动态计算图提前调度的方法，其特征在于，所述基于各所述样本的执行路径，确定各个所述部署节点对应的动态节点的执行概率，包括：在所述样本在所述动态计算图中前向传播一次的情况下，所述部署图记录当前动态节点执行的次数；将各所述动态节点执行的次数转化为在所述部署节点所监视的所述被监视节点执行的情况下，所述部署节点对应的动态节点执行的条件概率，基于所述条件概率确定各所述部署节点对应的动态节点的执行概率。4.根据权利要求1
‑
3任一项所述的针对动态计算图提前调度的方法，其特征在于，基于以下至少一项映射方式，将所述部署图和所述动态计算图映射于处理器，所述处理器包括众核架构，所述映射方式包括：同映射，包括将所述部署节点和与所述部署节点对应的动态节点映射至所述众核架构中的同一计算单元；前映射，包括将所述部署节点和所述部署节点对应的被监视节点映射至所述众核架构中的同一计算单元；中心映射，包括将所述部署图的全部部署节点统一映射至所述众核架构中的至少一个计算单元；随机映射，包括将所述...
【专利技术属性】
技术研发人员：张伟豪，沈杨书，
申请(专利权)人：北京灵汐科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。