一种人工智能计算机视觉推理方法技术

本发明专利技术公开了一种人工智能计算机视觉推理方法，使用了k8s(kubernetes，后面均简称为k8s)集群来管理多个运行子任务的容器，具有易于维护的优点，能够快速的对运维人员进行培训，达到提升整体底层计算资源效率和快速部署、运维的目的。本发明专利技术一种人工智能计算机视觉推理方法包括：配置算法引擎，所述算法引擎基于C#.net core开发。系统使用k8s进行资源的调度管理生成相应的程序容器，根据用户申请GPU数量，使用k8s命令行工具创建对应运行容器agent；所述运行容器agent监听5000端口接收Web Api请求发送的算法推理任务信息；所述算法引擎根据所述算法推理任务创建脚本并执行算法过程。算法过程。算法过程。

【技术实现步骤摘要】
一种人工智能计算机视觉推理方法


[0001]本专利技术涉及计算机视觉和深度学习等人工智能
，尤其涉及一种人工智能计算机视觉推理方法。

技术介绍

[0002]现有的GPU计算资源调度方案，一种是以用于共享内存方式的GPU资源调度器，结合集群作业管理系统，将需要的GPU设备的编号传递给用户，可以自动为用户作业分配需要的GPU设备资源，避免多个GPU设备的使用冲突。另一种用于MESOS容器化平台的GPU资源调度方法及装置，在图像化界面上创建目标服务时，通过设置GPU显存使用率，便于容器化平台用于目标服务的GPU显存使用率为服务分配对应的目标主机，并通过运行应用容器引擎，调用目标主机的CUDA驱动程序和GPU驱动程序，利用目标主机的GPU资源实现目标服务在容器中运行。
[0003]在人工智能计算机视觉技术兴起之后，越来越多枯燥的人工操作被取代，解放了双手。计算机视觉技术是计算机模拟人类的视觉过程，具有感受环境的能力和人类视觉功能的技术。现有智能计算机视觉推理管理系统，主要应用于多服务器下的GPU资源共享，用于共享内存方式的GPU资源调度器本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种人工智能计算机视觉推理方法，其特征在于，包括：配置算法引擎，所述算法引擎为算法的运行提供支持，所述算法引擎基于C#.net core开发。系统使用k8s进行资源的调度管理生成相应的程序容器，根据用户申请GPU数量，使用k8s命令行工具创建对应运行容器agent，所述算法包括推理算法；所述算法引擎接收Web Api发送的推理任务信息；所述算法引擎根据所述推理任务创建脚本并执行算法过程。2.根据权利要求1所述的人工智能计算机视觉推理方法，其特征在于：步骤所述配置算法引擎为根据用户申请GPU数量，使用k8s进行资源的调度管理生成相应的程序容器，根据用户申请GPU数量，使用k8s命令行工具创建对应运行容器agent，所述运行agent启动一个用于监听5000端口的Web Server。3.根据权利要求1所述的人工智能计算机视觉推理方法，其特征在于：步骤所述算法引擎根据所述推理任务创建脚本并执行算法过程包括：所述算法引擎启动工作机；所述算法引擎调度识别文件到工作机进行识别，输出识别结果，所述识别文件包括已经训练好的模型权重文件、索引文件、网络结构文件。4.根据权利要求1所述的人工智能计算机视觉推理方法，其特征在于：步骤所述算法引擎接收Web Api发送的推理任务信息之后，步骤所述算法引擎根据所述推理任务创建脚本并执行算法过程之前还包括：确定所述算法为推理算法，得到确定结果。5.根据权利要求4所述的人工智能计算机视觉推理方法，其特征在于：步骤所述算法引擎根据所述推理...

【专利技术属性】
技术研发人员：范亮，汤坚，张磊，
申请(专利权)人：广州中科智巡科技有限公司，
类型：发明
国别省市：