一种基于命令行的人工智能模型部署及调用方法及系统技术方案

本发明专利技术涉及一种基于命令行的人工智能模型部署及调用方法，包括以下步骤：建立资源服务器，在资源服务器收集并存储原始数据资源和人工智能模型资源，并在资源服务器上部署资源调用接口；在资源层建立高性能服务器，在高性能服务器构建模型训练任务，调用资源服务器中的原始数据资源和人工智能模型资源完成模型训练任务，得到训练好的人工智能模型；将人工智能模型按照指定格式的目录结构进行编排并打包为Docker镜像并上传至位于服务层的Docker私服仓库；在服务层设置模型调用接口，包括命令行组件和python接口组件；在客户端工具上通过命令行工具和python库匹配和调用模型服务。型服务。型服务。

【技术实现步骤摘要】
一种基于命令行的人工智能模型部署及调用方法及系统


[0001]本专利技术涉及一种基于命令行的人工智能模型部署及调用方法及系统，属于人工智能模型部署


技术介绍

[0002]人工智能的核心是算法与模型，在实际应用当中主要涉及的一是模型的生成即模型训练，二是模型的部署即将模型封装为一个可调用的服务，三是模型服务的调用。在工程实践当中，设计模型网络、提供符合需求精度、速度的模型往往由算法工程师完成，而研发工程师则会将模型提供的能力在实际业务场景当中应用，如“人脸识别”应用在权限身份认证当中等等。
[0003]算法工程师往往熟悉各类机器学习/深度学习算法知识、各类策略、比较前沿的新算法/模型，不断提高模型指标。研发工程师则对架构知识、开发基础等各种知识比算法同学更深入。两者的紧密高效结合显得十分迫切，理想状态下，算法工程师可以专心研究模型，生成的模型能够快速便捷部署，研发能够屏蔽模型部分，只关心提供的模型接口，并且能够快速便捷的调用。模型的调用方式又取决于模型的部署方式。
[0004]当前模型部署方式主要有：一、基于云服务器的人本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于命令行的人工智能模型部署及调用方法，其特征在于，包括以下步骤：建立资源服务器，在资源服务器收集并存储原始数据资源和人工智能模型资源，并在资源服务器上部署资源调用接口；在资源层建立高性能服务器，在高性能服务器构建模型训练任务，调用资源服务器中的原始数据资源和人工智能模型资源完成模型训练任务，得到训练好的人工智能模型；将训练好的人工智能模型按照指定格式的目录结构进行编排，将编排后的训练好的人工智能模型打包为Docker镜像并上传至位于服务层的Docker私服仓库；在服务层部署模型调用接口，模型调用接口包括命令行组件和python接口组件；在应用层部署客户端工具，在客户端工具中进行与服务层的模型调用接口的接口封装，客户端工具包括命令行工具和python库，在客户端工具上通过命令行工具和python库匹配和调用模型服务。2.根据权利要求1所述的一种基于命令行的人工智能模型部署及调用方法，其特征在于，在所述资源服务器收集并存储原始数据资源和人工智能模型资源步骤中：所述原始数据资源通过多方数据来源收集，并对收集到的原始数据资源进行数据集规范化处理，具体包括：对原始数据资源的数据文件类型、目录结构、文件内部格式进行规范。3.根据权利要求1所述的一种基于命令行的人工智能模型部署及调用方法，其特征在于，在所述资源服务器收集并存储原始数据资源和人工智能模型资源步骤中，还包括对人工智能模型资源的模型结构进行规范化处理，具体包括：对人工智能模型资源的目录结构、文件类型、框架类型、网络结构进行规范。4.根据权利要求1所述的一种基于命令行的人工智能模型部署及调用方法，其特征在于，在服务层中还设置有资源管理工具，通过资源管理工具对资源服务器中的原始数据资源进行管理操作，包括原始数据资源以及删除原始数据资源。5.一种基于命令行的人工智能模型部署及调用系统，其特征在于，包括：资源收集模块，用于建立资源服务器，在资源服务器收集并存储原始数据资源和人工智能模型资源，并在资源服务器上部署资源调用接口；模型训练模块，用于在资源层建立高性能服...

【专利技术属性】
技术研发人员：邢国用，苏江文，宋立华，丘志强，吴佩颖，
申请(专利权)人：国网信息通信产业集团有限公司，
类型：发明
国别省市：