针对动态计算图提前调度的方法和装置制造方法及图纸

本申请公开了一种针对动态计算图提前调度的方法和装置。所述针对动态计算图提前调度的方法，包括：基于动态计算图对应的目标训练数据集和目标训练数据集中各样本在动态计算图中所对应的执行路径，构建部署图；部署图包括多个部署节点，部署节点内存储有与部署节点对应的动态节点的执行概率；将部署图和动态计算图映射于处理器；基于映射后的部署图和动态计算图，提前调度动态计算图中动态节点的计算资源。本申请的针对动态计算图提前调度的方法，能够实现资源调度的提前响应，节省大量响应时间，从而提高调度速率。从而提高调度速率。从而提高调度速率。

【技术实现步骤摘要】
针对动态计算图提前调度的方法和装置


[0001]本申请属于计算机
，尤其涉及一种针对动态计算图提前调度的方法和装置。

技术介绍

[0002]计算图模型广泛应用于神经网络算法的描述，由计算节点和表示节点之间的数据依赖的边组成，包括静态图和动态计算图，其中，动态计算图为包含控制或随机执行流程的，执行过程会根据具体输入改变的计算图。相关技术中，主要是面向静态图的部署，然而对于动态计算图的部署，仍存调度效率低、部署效果差以及部署困难等问题。

技术实现思路

[0003]本申请旨在至少解决现有技术中存在的技术问题之一。为此，本申请提出一种针对动态计算图提前调度的方法和装置，能够实现资源调度的提前响应，节省大量响应时间，从而提高调度速率；且适用于动态计算图和静态图资源调度，具有广泛的应用范围和普适性。
[0004]第一方面，本申请提供了一种针对动态计算图提前调度的方法，该方法包括：
[0005]基于动态计算图对应的目标训练数据集和所述目标训练数据集中各样本在所述动态计算图中所对应的执行路径，构建部署图；所述部署图包括多个本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种针对动态计算图提前调度的方法，其特征在于，包括：基于动态计算图对应的目标训练数据集和所述目标训练数据集中各样本在所述动态计算图中所对应的执行路径，构建部署图；所述部署图包括多个部署节点，所述部署节点内存储有与所述部署节点对应的动态节点的执行概率；将所述部署图和所述动态计算图映射于处理器；基于映射后的所述部署图和所述动态计算图，提前调度所述动态计算图中动态节点的计算资源。2.根据权利要求1所述的针对动态计算图提前调度的方法，其特征在于，所述基于动态计算图对应的目标训练数据集和所述目标训练数据集中各样本在所述动态计算图中所对应的执行路径，构建部署图，包括：基于所述动态计算图中每一个动态节点，构建与所述动态节点相对应的部署节点；其中，所述部署节点用于监视所述动态计算图中的被监视节点，所述被监视节点为所述动态计算图中与所述部署节点相对应的动态节点之前的至少一个动态节点；基于各所述样本的执行路径，确定各个所述部署节点对应的动态节点的执行概率；基于所述部署节点和所述部署节点对应的动态节点的执行概率，确定所述部署图。3.根据权利要求2所述的针对动态计算图提前调度的方法，其特征在于，所述基于各所述样本的执行路径，确定各个所述部署节点对应的动态节点的执行概率，包括：在所述样本在所述动态计算图中前向传播一次的情况下，所述部署图记录当前动态节点执行的次数；将各所述动态节点执行的次数转化为在所述部署节点所监视的所述被监视节点执行的情况下，所述部署节点对应的动态节点执行的条件概率，基于所述条件概率确定各所述部署节点对应的动态节点的执行概率。4.根据权利要求1
‑
3任一项所述的针对动态计算图提前调度的方法，其特征在于，基于以下至少一项映射方式，将所述部署图和所述动态计算图映射于处理器，所述处理器包括众核架构，所述映射方式包括：同映射，包括将所述部署节点和与所述部署节点对应的动态节点映射至所述众核架构中的同一计算单元；前映射，包括将所述部署节点和所述部署节点对应的被监视节点映射至所述众核架构中的同一计算单元；中心映射，包括将所述部署图的全部部署节点统一映射至所述众核架构中的至少一个计算单元；随机映射，包括将所述...

【专利技术属性】
技术研发人员：张伟豪，沈杨书，
申请(专利权)人：北京灵汐科技有限公司，
类型：发明
国别省市：