深度学习模型任务处理方法、系统、服务器及存储介质技术方案

本申请公开了一种深度学习模型任务处理方法、系统、服务器及存储介质。深度学习模型任务处理方法包括：远程过程调用服务接收深度学习模型任务请求，并将深度学习模型任务请求存储至消息中间件；消息中间件将深度学习模型任务请求分发至分布式任务队列的多个任务执行单元；多个任务执行单元并发执行处理深度学习模型任务请求，获得执行结果。通过上述方式，本申请能够降低技术成本，有效便捷的提供深度学习模型任务处理服务。

Task processing method, system, server and storage medium of deep learning model

【技术实现步骤摘要】
深度学习模型任务处理方法、系统、服务器及存储介质
本申请涉及智能服务领域，特别是涉及深度学习模型任务处理方法、系统、服务器及存储介质。
技术介绍
随着智能服务的发展，越来越多的领域场景使用预先训练的模型进行目标检测、目标识别等，如深度学习模型。但是，模型的部署训练是一个复杂的过程，大致可以分成为六个步骤，首先我们要确定工作任务，确定完工作任务后可能需要大致设计模型，确定完成模型后再确定模型大致需要什么数据，并着手收集数据，将收集的数据进行调整并用于训练模型，将训练的模型用于测试集中进行测试来验证训练的模型效果。如果效果未能达到上线要求，则需要重新回过头来收集更多的数据亦或者重新调整模型设计直到训练的模型的测试精度达到上线标准。另外，模型一般部署在GPU服务器上，需要考虑服务器的选型、依赖的软件选型、环境的规划等。复杂的模型部署方案有操作系统要求，既需要支持模型框架导出的模型，后端也需要调度CPU、GPU等异构计算资源等等。这使得模型处理深度学习任务需要很高的成本。
技术实现思路
本申请主要解决的技术问题是提供一种深度学习模型本文档来自技高网...

【技术保护点】
1.一种深度学习模型任务处理方法，其特征在于，包括：/n远程过程调用服务接收深度学习模型任务请求，并将所述深度学习模型任务请求存储至消息中间件；/n所述消息中间件将所述深度学习模型任务请求分发至分布式任务队列的多个任务执行单元；/n多个所述任务执行单元并发执行处理所述深度学习模型任务请求，获得执行结果。/n

【技术特征摘要】
1.一种深度学习模型任务处理方法，其特征在于，包括：
远程过程调用服务接收深度学习模型任务请求，并将所述深度学习模型任务请求存储至消息中间件；
所述消息中间件将所述深度学习模型任务请求分发至分布式任务队列的多个任务执行单元；
多个所述任务执行单元并发执行处理所述深度学习模型任务请求，获得执行结果。


2.根据权利要求1所述的深度学习模型任务处理方法，其特征在于，多个所述任务执行单元将所述执行结果存储至所述消息中间件。


3.根据权利要求2所述的深度学习模型任务处理方法，其特征在于，所述远程过程调用服务调取所述消息中间件中的所述执行结果，将所述执行结果返回。


4.根据权利要求1所述的深度学习模型任务处理方法，其特征在于，所述远程过程调用服务接收深度学习模型任务请求包括：
代理服务接收所述深度学习模型任务请求，并监听所述远程过程调用服务的服务端口；
所述代理服务向所述远程过程调用服务转发所述深度学习模型任务请求。


5.根据权利要求4所述的深度学习模型任务处理方法，其特征在于，所述远程过程调用服务、所述消息中间件和所述分布式任务队列集成为任务处理服务，所述任务处理服务至少为两个，所述代理服务向所述远程过程调用服务转发所述深度学习模型任务请求包括：
所述代理服务将所述深度学习模型任务请求随机转发给任意一个所述任...

【专利技术属性】
技术研发人员：熊为星，熊友军，
申请(专利权)人：深圳市优必选科技股份有限公司，
类型：发明
国别省市：广东;44