显存管理方法、装置、设备、存储介质及程序产品制造方法及图纸

技术编号:33284295 阅读:25 留言:0更新日期:2022-04-30 23:48
本公开提供了显存管理方法、装置、设备、存储介质及程序产品,涉及数据处理技术领域,尤其涉及计算机视觉领域的GPU图形显示的显存管理领域。具体实现方案为:响应于存在显存申请请求,通过统一计算设备架构驱动应用程序接口API的全局内存分配函数,调用显存申请API;所述显存申请API为采用图形处理器GPU显存池化机制在GPU显存池中进行显存申请的API;通过所述显存申请API,在GPU显存池中,申请符合所述显存申请请求的显存。通过本公开提供了一种效率更高的显存管理方式。率更高的显存管理方式。率更高的显存管理方式。

【技术实现步骤摘要】
显存管理方法、装置、设备、存储介质及程序产品


[0001]本公开涉及数据处理
,尤其涉及计算机视觉领域的图像处理器(Graphics Processing Unit,GPU)图形显示的显存管理。

技术介绍

[0002]为了更好地服务于显存资源的共享、弹性分配以及跨GPU(Graphics Processing Unit,图形处理器)的设备分配等,GPU显存池化机制被应用。
[0003]GPU显存池化机制能够提高应用程序对GPU显存的使用效率,并减少应用程序运行过程中显存的碎片率。应用GPU显存池化机制,需要预先分配GPU显存池。在申请显存时,GPU显存池可以返回GPU显存池中一块空闲的显存,并将其标记为使用。在释放显存时,GPU显存池可以回收释放的显存,并将回收的显存标记为空闲。

技术实现思路

[0004]本公开提供了一种用于显存管理的方法、装置、设备、存储介质及程序产品。
[0005]根据本公开的一方面,提供了一种显存管理方法,包括:
[0006]响应于存在显存申请请求,通过统一计算设备架构驱动应本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种显存管理方法,包括:响应于存在显存申请请求,通过统一计算设备架构驱动应用程序接口API的全局内存分配函数,调用显存申请API;所述显存申请API为采用图形处理器GPU显存池化机制在GPU显存池中进行显存申请的API;通过所述显存申请API,在GPU显存池中,申请符合所述显存申请请求的显存。2.根据权利要求1所述的方法,其中,通过统一计算设备架构驱动API的全局内存分配函数,调用显存申请API,包括:调用统一计算设备架构驱动API的全局内存分配函数,拦截所述全局内存分配函数所对应的处理逻辑,并创建调用显存申请API的处理逻辑。3.根据权利要求1或2所述的方法,其中,所述显存申请请求中包括显存大小;所述在GPU显存池中,申请符合所述显存申请请求的显存,包括:在所述GPU显存池中,确定满足所述显存大小的空闲虚拟地址块;若GPU显存池中存在满足所述显存大小的显存块,则获取满足所述显存大小的显存块的首地址,并将所述显存块标记为使用;若GPU显存池中不存在满足所述显存大小的显存块,则通过所述显存申请API,调用虚拟内存管理API,通过所述虚拟内存管理API,在所述GPU显存池中,申请符合所述显存大小的显存块。4.根据权利要求3所述的方法,其中,所述通过所述虚拟内存管理API,在所述GPU显存池中,申请符合所述显存大小的显存块,包括:调用虚拟内存管理API分配虚拟地址块;基于虚拟内存管理API分配的虚拟地址块,在GPU显存池中,申请符合所述显存大小的显存块。5.根据权利要求4所述的方法,其中,所述基于虚拟内存管理API分配的虚拟地址块,在GPU显存池中,申请符合所述显存大小的显存块,包括:在所述GPU显存池中,按照虚拟内存管理API分配的虚拟地址块的首地址以及显存申请请求中包括的显存大小,申请显存块,并将申请到的显存块标记为使用;其中,所述申请到的显存块的首地址为所述虚拟内存管理API分配的虚拟地址块的首地址,所述申请到的显存块的大小等于所述显存申请请求中包括的显存大小。6.根据权利要求4或5所述的方法,其中,所述方法还包括:基于虚拟地址块与物理地址块之间的映射关系,确定所述虚拟内存管理API分配的虚拟地址块所映射的物理地址块;将所述显存申请请求定位至所述物理地址块对应的物理内存。7.根据权利要求6所述的方法,其中,虚拟地址块与物理地址块之间的映射关系采用如下方式确定:调用虚拟内存管理API分配物理地址块以及虚拟地址块;将分配的物理地址块,映射至分配的虚拟地址块范围内,以创建物理地址块与虚拟地址块之间的映射关系。8.根据权利要求6或7所述的方法,还包括:
将所述物理地址块对应的物理内存访问权限分配为以下之一:只读权限、只写权限,以及可读可写权限。9.根据权利要求1

8中任意一项所述的方法,还包括:响应于存在显存释放请求,调用统一计算设备架构驱动API的全局内存释放函数,拦截所述全局内存释放函数所对应的处理逻辑,并创建调用显存释放API的处理逻辑,所述显存释放请求中包括释放的虚拟地址块;所述显存释放API为采用图形处理器GPU显存池化机制在GPU显存池中进行显存释放的API;通过所述显存释放API,在所述GPU显存池中,回收所述释放的虚拟地址块,并将所述释放的虚拟地址块标记为空闲。10.根据权利要求9所述的方法,其中,所述在所述GPU显存池中,回收所述释放的虚拟地址块,包括:若所述GPU显存池中存在...

【专利技术属性】
技术研发人员:李勇李志黎世勇
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1