【技术实现步骤摘要】
图像信息处理方法及服务器
本申请涉及计算机视觉
,具体而言,涉及一种图像信息处理方法及服务器。
技术介绍
深度学习的发展和深层次网络的出现大大增加了计算机视觉领域的图片分类和物体识别的准确率,并加速了计算机视觉领域的发展。应用到现实场景中时,不管是服务器端还是移动端,在准确率达到一定标准的同时,模型的处理效率和资源利用率也是一个同样重要的标准。针对相关技术中模型运行效率较低的问题,目前尚未提出有效的解决方案。
技术实现思路
本申请的主要目的在于提供一种图像信息处理方法及服务器,以解决模型运行效率较低的问题。为了实现上述目的,根据本申请的一个方面,提供了一种图像信息处理方法。根据本申请的图像信息处理方法,在服务器部署多个图形处理器,所述方法包括:所述服务器通过预设应用程序编程接口在深度学习推理框架中使用多个所述图形处理器时执行负载均衡操作,其中,所述图形处理器用于在服务器中接收用户请求,以及在服务器中通过运行深度学习网络模型处理所述用户请求。进一步地,所述预设应用程序编程接口包括:PyCUDA。进一步地,所述深度学习推理框架包括:TensorRT。进一步地,所述在 ...
【技术保护点】
1.一种图像信息处理方法,在服务器部署多个图形处理器,其特征在于,所述方法包括:所述服务器通过预设应用程序编程接口在深度学习推理框架中使用多个所述图形处理器时执行负载均衡操作,其中,所述图形处理器用于在服务器中接收用户请求,以及在服务器中通过运行深度学习网络模型处理所述用户请求。
【技术特征摘要】
1.一种图像信息处理方法,在服务器部署多个图形处理器,其特征在于,所述方法包括:所述服务器通过预设应用程序编程接口在深度学习推理框架中使用多个所述图形处理器时执行负载均衡操作,其中,所述图形处理器用于在服务器中接收用户请求,以及在服务器中通过运行深度学习网络模型处理所述用户请求。2.根据权利要求1所述的图像信息处理方法,其特征在于,所述预设应用程序编程接口包括:PyCUDA。3.根据权利要求1所述的图像信息处理方法,其特征在于,所述深度学习推理框架包括:TensorRT。4.根据权利要求1所述的图像信息处理方法,其特征在于,所述在服务器中通过运行深度学习网络模型处理所述用户请求包括:经过训练的模型。5.根据权利要求1所述的图像信息处理方法,其特征在于,所述服务器通过预设应用程序编程接口在深度学习推理框架中使用多个所述图形处理器时执行负载均衡操作包括:判断图形处理器是否可用;如果判断图形处理器为可用,则通过深度学习推理框架从可用的多个所述图形处理器中选择出用于加载深度学习网络模型的预设图形处理器。6.根据权利要求1所述的图像信息处理方法,其特征在于,所述服务器通过预设应用程序编程接口在深度学习推理框架中使用多个所述图形处理器时执行负载...
【专利技术属性】
技术研发人员:赵昊,张默,
申请(专利权)人:北京陌上花科技有限公司,
类型:发明
国别省市:北京,11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。