用于调度应用的方法、装置以及计算机可读介质制造方法及图纸

技术编号:21003905 阅读:36 留言:0更新日期:2019-04-30 21:29
本公开的实施例提供了用于调度应用的方法、装置以及计算机可读介质。根据本公开的实施例,获取与多个应用在计算系统的多个处理单元之间的调度相关的影响因素,多个应用正由多个处理单元中的至少一个处理单元运行。基于所获取的影响因素,选择多个应用中待调度的目标应用和多个处理单元中的第一处理单元,第一处理单元不同于至少一个处理单元中正运行目标应用的第二处理单元。将目标应用从第二处理单元调度到第一处理单元,以由第一处理单元继续运行。

Methods, devices and computer readable media for scheduling applications

【技术实现步骤摘要】
用于调度应用的方法、装置以及计算机可读介质
本公开的实施例涉及数据处理领域,并且更具体地,涉及用于调度应用的方法、装置以及计算机可读介质。
技术介绍
客户端上的应用可以被设计用于利用处理和存储资源等计算资源来完成各种处理或分析任务。随着诸如高性能计算(HPC)、机器学习(ML)或深度学习(DL)以及人工智能(AI)等任务的需求和复杂度不断增加,需要大量和/或可变的计算资源来满足相应应用的运行。这可以通过具有多个处理单元的机器或系统来实现,其中应用可以被调度到该机器或系统的一个或多个处理单元上运行。例如,已经开发了基于云的计算系统,该计算系统包括具有一个或多个处理单元的机器。不同客户端可以根据需要来租赁该系统的计算资源(例如,处理单元)用以运行各自的应用。在存在多个处理单元可用于运行多个应用的情况中,由于不同应用的发起时间不同、将会占用的处理和/或存储资源量也不同,所面临的挑战之一是如何在多个处理单元之间合理调度这些应用。
技术实现思路
本公开的实施例提供了一种改进的在多个处理单元之间调度应用的方案。在本公开的第一方面中,提供了一种调度应用的方法。该方法包括获取与多个应用在计算系统的多个处本文档来自技高网...

【技术保护点】
1.一种调度应用的方法,包括:获取与多个应用在计算系统的多个处理单元之间的调度相关的影响因素,所述多个应用正由所述多个处理单元中的至少一个处理单元运行;基于所获取的影响因素,选择所述多个应用中待调度的目标应用和所述多个处理单元中的第一处理单元,所述第一处理单元不同于所述至少一个处理单元中正运行所述目标应用的第二处理单元;以及将所述目标应用从所述第二处理单元调度到所述第一处理单元,以由所述第一处理单元继续运行。

【技术特征摘要】
1.一种调度应用的方法,包括:获取与多个应用在计算系统的多个处理单元之间的调度相关的影响因素,所述多个应用正由所述多个处理单元中的至少一个处理单元运行;基于所获取的影响因素,选择所述多个应用中待调度的目标应用和所述多个处理单元中的第一处理单元,所述第一处理单元不同于所述至少一个处理单元中正运行所述目标应用的第二处理单元;以及将所述目标应用从所述第二处理单元调度到所述第一处理单元,以由所述第一处理单元继续运行。2.根据权利要求1所述的方法,其中获取所述影响因素包括获取以下至少一项:所述多个处理单元的资源使用率,所述多个应用中的每个应用对所述多个处理单元中运行所述应用的每个处理单元的资源使用率,以及与所述多个处理单元的拓扑相关的信息,所述信息包括所述多个处理单元之间的连接跳数和连接类型中的至少一个。3.根据权利要求1所述的方法,其中选择所述目标应用和所述第一处理单元包括:选择所述目标应用和所述第一处理单元,以使得在所述目标应用被调度到所述第一处理单元之后,所述多个处理单元的资源使用率之间的差异将被降低。4.根据权利要求1所述的方法,其中选择所述目标应用和所述第一处理单元包括:选择所述目标应用和所述第一处理单元,以使得在所述目标应用被调度到所述第一处理单元之后,所述多个处理单元的资源使用率之间的差异将被提高。5.根据权利要求1所述的方法,其中选择所述目标应用和所述第一处理单元包括:选择所述目标应用和所述第一处理单元,以使得将与所述目标应用相关的数据从所述第二处理单元迁移到所述第一处理单元的成本将满足预定准则,所述成本基于从所述第二处理单元到所述第一处理单元之间的连接跳数和连接类型中的至少一项。6.根据权利要求1所述的方法,其中选择所述目标应用和所述第一处理单元还包括:还基于所述多个应用的优先级来选择所述目标应用和所述第一处理单元,所述优先级至少与所述多个应用的服务质量要求有关。7.根据权利要求1所述的方法,其中所述多个处理单元被包括在所述计算系统的单个机器中。8.根据权利要求1所述的方法,其中所述多个处理单元被分布在所述计算系统的多个机器中。9.根据权利要求1所述的方法,其中所述多个处理单元具有相同的类型并且选自以下中的一项:图形处理单元(GPU),现场可编程门阵列(FPGA),以及中央处理单元(CPU)。10.一种用于调度应用的装置,包括:处理器;以及与所述处理器耦合的存储器,所述存储器具有存储于其中的指令,所述指令在被处理器执行时使所述装置执行动...

【专利技术属性】
技术研发人员:赵军平郭帆王鲲
申请(专利权)人:伊姆西IP控股有限责任公司
类型:发明
国别省市:美国,US

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1