【技术实现步骤摘要】
计算任务的分配方法、装置、计算机设备和存储介质
[0001]本申请涉及计算机
,特别是涉及一种计算任务的分配方法、装置、计算机设备和存储介质。
技术介绍
[0002]目前,神经网络在许多领域内表现出了非凡的性能,例如图像识别、自然语言处理、推荐系统等。与其相随的问题是DNN模型的结构越来越复杂以及训练的计算要求越来越高。为了解决复杂DNN模型的训练问题。通常将DNN模型中的多个计算任务划分至多个设备上,由多个设备分别计算自己分到的计算任务,从而降低了计算要求,其中DNN模型中的多个计算任务能够构成一有向图(按照每个计算任务的计算顺序构成有向图)。
[0003]现有技术中,对多个计算任务进行划分方式主要是多级划分算法,该多级划分算法主要是根据多个计算任务之间流转关系的关键程度进行划分,即尽可能将存在关键的流转关系多个计算任务划分给同一个设备,存在不关键的流转关系多个计算任务的划分给不同的设备。
[0004]然而,目前的多级划分算法方法,因同时要考虑多个设备的负载均衡,无可避免的会将存在关键的流转关系的多个 ...
【技术保护点】
【技术特征摘要】
1.一种计算任务的分配方法,其特征在于,所述方法包括:获取所述计算任务对应的第一数量个计算图以及所述计算任务中各计算子任务之间的流转关系,每个所述计算图包括至少一计算子任务;计算每个边界计算子任务的关键关系增益,所述关键关系增益包括第一增益和第二增益,其中,所述第一增益根据所述边界计算子任务所属计算图中与所述边界计算子任务存在的关键关系获得,所述第二增益根据所述边界计算子任务分别与其他计算图之间的关键关系获得;根据各边界计算子任务的所述第一增益和第二增益调整所述边界计算子任务至其他计算图,获得新的第一数量个计算图;若新的第一数量个计算图存在新的边界计算子任务,返回确定每个边界计算子任务的关键关系增益的步骤,直至获得的新的第一数量个计算图不存在新的边界计算子任务,并将每次获得第一数量个计算图之间的关键关系数量最小的第一数量个计算图,分配至对应的第一数量个计算设备。2.根据权利要求1所述的方法,其特征在于,所述计算每个边界计算子任务的关键关系增益,所述关键关系增益包括第一增益和第二增益,包括:统计所述边界计算子任务所属计算图中与所述边界计算子任务存在关键关系的计算子任务的数量,获得所述第一增益;并统计所述边界计算子任务分别与其他计算图之间存在关键关系的计算子任务的数量,获得所述边界计算子任务分别相对其他计算图的第二增益。3.根据权利要求1所述的方法,其特征在于,所述计算每个边界计算子任务的关键关系增益,所述关键关系增益包括第一增益和第二增益,包括:将所述边界计算子任务的流转关系中关键关系赋值为第一值;根据所述边界计算子任务所属计算图中与所述边界计算子任务存在的关键关系,以及所述第一值进行计算,获得所述第一增益;并根据所述边界计算子任务分别与其他计算图之间的关键关系,以及所述第一值进行计算,获得所述第二增益。4.根据权利要求1至3任一项所述的方法,其特征在于,所述根据各边界计算子任务的所述第一增益和第二增益调整所述边界计算子任务至其他计算图,获得新的第一数量个计算图,包括:计算每个所述边界计算子任务的所述第二增益和所述第一增益的差值;将所述差值大于预设阈值的边界计算子任务分配至所述第二增益对应的计算图,获得重新划分后的第一数量个计算图。5.根据权利要求4所述的方法,其特征在于,所述将所述差值大于预设阈值的边界计算子任务分配至所述第二增益对应的计算图,获得重新划分后的第一预设数量个计算图,包括:根据所述流转关系确定所述差值大于预设阈值的边界计算子任务中的目标边界计算子任务;将所述目标边界计算子任...
【专利技术属性】
技术研发人员:李肯立,翁万东,肖正,唐卓,肖国庆,段明星,周旭,廖清,
申请(专利权)人:湖南大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。