一种GPU虚拟化方法、装置、设备及存储介质制造方法及图纸

技术编号:40836314 阅读:21 留言:0更新日期:2024-04-01 15:01
本申请公开了一种GPU虚拟化方法、装置、设备及存储介质,涉及虚拟化技术领域。该方法包括:根据容器组内应用程序运行的GPU任务,触发加载容器组中预配置的目标库文件;通过运行所述目标库文件截获所述容器组内所述应用程序发起的图像处理指令,并根据资源分配规则判断是否给所述容器组分配GPU资源,若判定给所述容器组分配GPU资源,则将所述图像处理指令转发给宿主机的任务调度组件;通过所述任务调度组件根据所述GPU任务对应的显存需求量为所述容器组分配相应的虚拟GPU资源,并将GPU输出的处理结果发送给所述容器组。优化了GPU虚拟化流程,提高GPU虚拟资源分配的灵活性。

【技术实现步骤摘要】

本专利技术涉及虚拟机,特别涉及一种gpu虚拟化方法、装置、设备及存储介质。


技术介绍

1、gpu(graphics processing unit,图形处理器,用于计算机图形渲染以及深度学习的训练过程和推理过程),gpu虚拟化技术是一种将物理gpu资源虚拟化成多个虚拟gpu资源,使得多个虚拟机能够共享使用同一个或多个gpu处理器进行图形运算的技术。相关技术中,gpu资源虚拟化需要编译较长代码执行gpu资源划分流程,降低了gpu虚拟化的效率。


技术实现思路

1、有鉴于此,本专利技术的目的在于提供一种gpu虚拟化方法、装置、设备及存储介质,能够提高gpu虚拟资源分配的灵活性。其具体方案如下:

2、第一方面,本申请公开了一种gpu虚拟化方法,包括:

3、根据容器组内应用程序运行的gpu任务,触发加载容器组中预配置的目标库文件;

4、通过运行所述目标库文件截获所述容器组内所述应用程序发起的图像处理指令,并根据资源分配规则判断是否给所述容器组分配gpu资源;>

5、若判定给本文档来自技高网...

【技术保护点】

1.一种GPU虚拟化方法,其特征在于,包括:

2.根据权利要求1所述的GPU虚拟化方法,其特征在于,所述根据资源分配规则判断是否给所述容器组分配GPU资源,包括:

3.根据权利要求1所述的GPU虚拟化方法,其特征在于,所述通过所述任务调度组件根据所述GPU任务对应的显存需求量为所述容器组分配相应的虚拟GPU资源之后,还包括:

4.根据权利要求1所述的GPU虚拟化方法,其特征在于,所述通过所述任务调度组件根据所述GPU任务对应的显存需求量为所述容器组分配相应的虚拟GPU资源之前,还包括:

5.根据权利要求1所述的GPU虚拟化方法,其特征在于,...

【技术特征摘要】

1.一种gpu虚拟化方法,其特征在于,包括:

2.根据权利要求1所述的gpu虚拟化方法,其特征在于,所述根据资源分配规则判断是否给所述容器组分配gpu资源,包括:

3.根据权利要求1所述的gpu虚拟化方法,其特征在于,所述通过所述任务调度组件根据所述gpu任务对应的显存需求量为所述容器组分配相应的虚拟gpu资源之后,还包括:

4.根据权利要求1所述的gpu虚拟化方法,其特征在于,所述通过所述任务调度组件根据所述gpu任务对应的显存需求量为所述容器组分配相应的虚拟gpu资源之前,还包括:

5.根据权利要求1所述的gpu虚拟化方法,其特征在于,所述通过所述任务调度组件根据所述g...

【专利技术属性】
技术研发人员:孙汉源
申请(专利权)人:苏州元脑智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1