System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种虚拟化环境下GPU调度系统技术方案_技高网

一种虚拟化环境下GPU调度系统技术方案

技术编号:40997955 阅读:5 留言:0更新日期:2024-04-18 21:37
本发明专利技术涉及数据处理技术领域,尤其涉及一种虚拟化环境下GPU调度系统,包括:分层模块,其用以根据虚拟机的虚拟画面对画面进行划分,并形成若干画面层;活跃模块,其用以根据画面位置以及静默时长确定各画面层的活跃性;调度模块,其用以根据各画面层的活跃性分配对应的算力;暂存模块,其用以暂存各画面层的显示内容;统合模块,其用以将根据算力对各显示内容进行调配,并将显示界面输出至实体机;本发明专利技术利用设置上述模块,从应用运行的活性确定虚拟机或实体机的实际运行状态,在有效避免了GPU算力因虚拟机或应用的申请导致的浪费,从而有效提升了GPU算力的实际使用率。

【技术实现步骤摘要】

本专利技术涉及数据处理,尤其涉及一种虚拟化环境下gpu调度系统。


技术介绍

1、虚拟机作为一种模拟的环境,其在设置之初就已经占据一部分硬件资源,而该虚拟机实际上使用资源是远小于预先分配的资源的,在网络集群或单机设备上,这种设置都是较为浪费算力资源的。

2、现今常用较为常见的虚拟化gpu算力分配方法有以下几种:

3、中国专利授权公告号:cn115269341b公开了一种gpu虚拟化资源使用率的多维度监控方法和系统,该方法包括:查询kubernetes云环境上所有pod信息,根据节点名称过滤查询各个节点上的pod列表;遍历pod列表,查询每个pod中的容器列表;遍历容器列表,查询每个容器中的所有进程的pid列表和容器挂载的gpu卡列表;遍历gpu卡列表,查询每个gpu卡上正在使用gpu资源的所有进程的pid列表及每个进程实际的gpu资源使用量;对数据进行处理,获得不同维度下gpu虚拟化资源使用率的监控数据。该专利技术实现gpu资源精细化管理,提升资源利用率,从而保证充分释放gpu性能,增加gpu使用寿命。

4、上述方法给出了一种较为成熟的将集群gpu算力进行调配的具体方式,但是在申请算力的处理方式下,因应用中常带有维持应用活性的模块,该方法对于软件而言是能够较为轻易地破解并占据部分gpu算力的。

5、中国专利授权公告号:cn112286644b公开了一种gpu虚拟化算力的弹性调度方法,属于gpu虚拟化
,该方法包括:对ai推理容器进行自动压测,得到历史最大运行指标;根据历史最大运行指标,自动确定容器的算力配额;检测容器在业务场景下的实时运行指标;根据实时运行指标和预设的算力弹性调度条件,自动调整容器实例数。该专利技术实现了自动化确定ai推理容器所分配的算力配额,提高了ai推理容器的部署效率,而且极大的提高了gpu算力的利用率。

6、上述方法给出了一种设置算力池,并根据应用运行的算力配额对算力池内的算力进行对应分配方式,但是在常规应用设置中,为使应用能够快速激活,其申请算力的请求会重复发出若干,对于单个应用,该方法会导致算力被多次浪费。

7、综上,上述方法对于虚拟化环境中的应用,gpu算力会因应用行为导致异常浪费,从而使gpu算力无法分配得更加合理,进而导致gpu算力的实际利用率下降。


技术实现思路

1、为此,本专利技术提供一种虚拟化环境下gpu调度系统,用以克服现有技术中对于虚拟化环境中的应用,gpu算力会因应用行为导致异常浪费,从而使gpu算力无法分配得更加合理,进而导致gpu算力的实际利用率下降的问题。

2、为实现上述目的,本专利技术提供一种虚拟化环境下gpu调度系统,包括:

3、分层模块,其用以根据虚拟机的虚拟画面对画面进行划分,并形成若干画面层;

4、活跃模块,其与所述分层模块相连,用以根据画面位置以及静默时长确定各画面层的活跃性;

5、调度模块,其与所述活跃模块相连,用以根据各画面层的活跃性分配对应的算力;

6、暂存模块,其与所述活跃模块以及所述调度模块相连,用以暂存各画面层的显示内容;

7、统合模块,其与所述调度模块以及所述暂存模块相连,用以将根据所述算力对各显示内容进行调配,并将显示界面输出至实体机;

8、其中,所述虚拟画面为所述虚拟机的运行画面,所述静默时长为所述虚拟机未运行操作平台外任一任务的连续时长,所述活跃性与所述虚拟机的所述画面位置以及所述虚拟机的运行状态有关。

9、进一步地,所述分层模块根据所述虚拟机在所述实体机上的虚拟画面占比对画面进行分层;

10、其中,若所述虚拟画面完全覆盖所述显示界面或显示界面中无所述虚拟画面,所述分层模块将所述虚拟机以及所述实体机的画面层设定为显示画面层;

11、若所述虚拟画面未完全覆盖所述显示界面,所述分层模块将所述虚拟机的虚拟画面设定为虚拟画面层,并将显示画面设定为实体画面层。

12、进一步地,所述分层模块根据所述实体机的运行任务对所述实体画面层进行二次分割;

13、其中,若所述实体机的运行任务包括显示在所述显示界面上的窗口,所述分层模块将该窗口设定为窗口画面层。

14、进一步地,所述活跃模块根据所述虚拟画面层的画面位置确定虚拟画面层的活跃性;

15、其中,若所述虚拟画面层处于所述显示界面内,所述分层模块判定所述虚拟机的画面层为活跃层;

16、若所述虚拟画面层在所述显示界面中不进行显示,所述分层模块判定所述虚拟机的画面层为平静层。

17、进一步地,所述活跃模块中设有预设静默时长以及预设消除时长,对于所述虚拟画面层,

18、若所述静默时长达到预设静默时长,所述活跃模块判定所述虚拟画面层为所述平静层;

19、若所述静默时长达到预设消除时长,所述活跃模块判定所述虚拟画面层为睡眠层。

20、进一步地,所述调度模块根据所述虚拟画面层的分类,将虚拟画面层的算力转移至所述虚拟机或所述暂存模块;

21、其中,若所述虚拟画面层为所述平静层和/或所述睡眠层,所述调度模块判定由所述暂存模块提供该虚拟画面层的算力;

22、若所述虚拟画面层为所述活跃层,所述调度模块判定由所述虚拟画面层对应的虚拟机提供该虚拟画面层的算力。

23、进一步地,所述暂存模块中设有图像存储区域以及算力存储区域;

24、其中,若所述虚拟画面所处画面层为所述平静层,所述暂存模块将该虚拟画面的快照进行存储。

25、进一步地,所述活跃模块根据所述实体机的应用激活状态对实体画面层的活跃性进行判定;

26、其中,若所述实体机无应用激活,所述活跃模块判定该实体机的所述实体画面层为平静层;

27、若所述实体机无应用激活且所述虚拟画面完全覆盖所述显示界面,所述活跃模块判定该实体机的所述实体画面层为睡眠层。

28、进一步地,所述调度模块中设有最小算力,在完成所述各画面层的活跃性判定时,所述调度模块将最小算力分配至所述平静层以及所述睡眠层;

29、其中,所述最小算力为所述调度模块对于所述虚拟机、所述实体机以及所述暂存模块分配的显示算力的最小值。

30、进一步地,所述暂存模块设有反馈策略,用以在所述调度模块完成算力的分配时,暂存模块将所述虚拟机中的超出分配算力的部分对虚拟机进行显示反馈,并将进行显示反馈的算力存入所述暂存模块;

31、其中,所述反馈策略为所述暂存模块输出一个占据算力的信号,并将该信号传输至反馈对象,反馈对象将该信号对应的算力识别为被占据,并不再调动该信号对应的算力。

32、与现有技术相比,本专利技术的有益效果在于,利用设置分层模块、活跃模块、调度模块、暂存模块以及统合模块的方式,从应用运行的活性确定虚拟机或实体机的实际运行状态,并将合理的gpu算力分配至对应的画面层,在有效提升了gpu算力的应用针对本文档来自技高网...

【技术保护点】

1.一种虚拟化环境下GPU调度系统,其特征在于,包括:

2.根据权利要求1所述的虚拟化环境下GPU调度系统,其特征在于,所述分层模块根据所述虚拟机在所述实体机上的虚拟画面占比对画面进行分层;

3.根据权利要求2所述的虚拟化环境下GPU调度系统,其特征在于,所述分层模块根据所述实体机的运行任务对所述实体画面层进行二次分割;

4.根据权利要求1或2任一项所述的虚拟化环境下GPU调度系统,其特征在于,所述活跃模块根据所述虚拟画面层的画面位置确定虚拟画面层的活跃性;

5.根据权利要求4所述的虚拟化环境下GPU调度系统,其特征在于,所述活跃模块中设有预设静默时长以及预设消除时长,对于所述虚拟画面层,

6.根据权利要求5所述的虚拟化环境下GPU调度系统,其特征在于,所述调度模块根据所述虚拟画面层的分类,将虚拟画面层的算力转移至所述虚拟机或所述暂存模块;

7.根据权利要求6所述的虚拟化环境下GPU调度系统,其特征在于,所述暂存模块中设有图像存储区域以及算力存储区域;

8.根据权利要求7所述的虚拟化环境下GPU调度系统,其特征在于,所述活跃模块根据所述实体机的应用激活状态对实体画面层的活跃性进行判定;

9.根据权利要求8所述的虚拟化环境下GPU调度系统,其特征在于,所述调度模块中设有最小算力,在完成所述各画面层的活跃性判定时,所述调度模块将最小算力分配至所述平静层以及所述睡眠层;

10.根据权利要求1或9任一项所述的虚拟化环境下GPU调度系统,其特征在于,所述暂存模块设有反馈策略,用以在所述调度模块完成算力的分配时,暂存模块将所述虚拟机中的超出分配算力的部分对虚拟机进行显示反馈,并将进行显示反馈的算力存入所述暂存模块;

...

【技术特征摘要】

1.一种虚拟化环境下gpu调度系统,其特征在于,包括:

2.根据权利要求1所述的虚拟化环境下gpu调度系统,其特征在于,所述分层模块根据所述虚拟机在所述实体机上的虚拟画面占比对画面进行分层;

3.根据权利要求2所述的虚拟化环境下gpu调度系统,其特征在于,所述分层模块根据所述实体机的运行任务对所述实体画面层进行二次分割;

4.根据权利要求1或2任一项所述的虚拟化环境下gpu调度系统,其特征在于,所述活跃模块根据所述虚拟画面层的画面位置确定虚拟画面层的活跃性;

5.根据权利要求4所述的虚拟化环境下gpu调度系统,其特征在于,所述活跃模块中设有预设静默时长以及预设消除时长,对于所述虚拟画面层,

6.根据权利要求5所述的虚拟化环境下gpu调度系统,其特征在于,所述调度模块根据所述虚拟画面层的分类,将虚拟画...

【专利技术属性】
技术研发人员:邓正秋杨易
申请(专利权)人:湖南马栏山视频先进技术研究院有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1