【技术实现步骤摘要】
技术介绍
1、一些计算密集型服务会利用专用的处理单元，例如图形处理单元(gpu)等，来执行该服务的各种任务。相比于传统的通用处理单元，例如中央处理单元(cpu)，专用处理单元可以获得更高的计算效率。随着技术进步，处理单元的计算能力越来越强。在一些服务的运行中，处理单元可能处于低利用率状态。期望尽可能地提升处理单元的利用率。
技术实现思路
1、根据本公开的实现，提出了一种用于提升处理单元的资源利用的方案。在该方案中，至少基于第一服务的任务的即时执行信息，确定处理单元的第一时间段，在第一时间段内处理单元暂停执行第一服务的任务。至少基于第二服务的任务的预计执行时长，选择第二服务中能够在第一时间段内完成的至少一个任务。在第一时间段内将第二服务的至少一个任务调度到处理单元执行。以此方式，可以充分利用处理单元的资源，提高资源利用率。
2、提供该部分是为了简化的形式来介绍对对象的选择，其在下文的具体实施方式中将被进一步描述。该部分无意标识要求保护的主题的关键特征或主要特征，也无意限制要求保护的主题的范围。
【技术保护点】
1.一种计算机实现的方法，包括：
2.根据权利要求1所述的方法，其中所述第一服务在所述处理单元的资源占用方面的可预测性低于所述第二服务在所述处理单元的资源占用方面的可预测性。
3.根据权利要求1所述的方法，其中确定所述第一时间段包括：
4.根据权利要求3所述的方法，其中所述即时执行信息包括被发送到所述处理单元的针对所述第一服务的命令队列，其中确定所述第一任务的所述完成时间包括：
5.根据权利要求3所述的方法，其中所述第一服务包括流媒体服务，所述第一服务的任务包括所述流媒体服务的帧的处理任务，并且其中所述服务质量要求包括所述流媒体服务的帧率要求。
6.根据权利要求1所述的方法，其中所述第二服务包括机器学习模型的运行服务，或科学计算服务。
7.根据权利要求1所述的方法，还包括：
8.根据权利要求1所述的方法，还包括：在所述第二服务的所述至少一个任务的执行期间，
9.根据权利要求8所述的方法，其中终止所述一个或多个任务的执行包括：
10.根据权利要求8所述的方法，还包括：
...【技术特征摘要】
1.一种计算机实现的方法，包括：
2.根据权利要求1所述的方法，其中所述第一服务在所述处理单元的资源占用方面的可预测性低于所述第二服务在所述处理单元的资源占用方面的可预测性。
3.根据权利要求1所述的方法，其中确定所述第一时间段包括：
4.根据权利要求3所述的方法，其中所述即时执行信息包括被发送到所述处理单元的针对所述第一服务的命令队列，其中确定所述第一任务的所述完成时间包括：
5.根据权利要求3所述的方法，其中所述第一服务包括流媒体服务，所述第一服务的任务包括所述流媒体服务的帧的处理任务，并且其中所述服务质量要求包括所述流媒体服务的帧率要求。
6.根据权利要求1所述的方法，其中所述第二服务包括机器学习模型的运行服务，或科学计算服务。
7.根据权利要求1所述的方法，还包括：
8.根据权利要求1所述的方法，还包括：在所述第二服务的所述至少一个任务的执行期间，
9.根据权利要求8所述的方法，其中终止所述一个或多个任务的执行包括：
10.根据权利要求8所述的方法，还包括：
11.根据权利要求10所述的方法，还包括：
12...
【专利技术属性】
技术研发人员：韩震华，程鹏，杨凡，舒然，杨玉庆，张蔚，
申请(专利权)人：微软技术许可有限责任公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。