本发明专利技术提供了一种适用于人工智能中台的系统，包括：模型引擎模块：模型引擎管理模型任务，并对接异构计算资源的容器集群；模型工厂模块：提供模型开发流水线，流水线用于指引模型开发者准备模型训练与推理所需的内容，并向模型引擎模块申请执行任务；模型市场模块：与对接中台的AIBox模块协作，形成云边协同方案，帮助模型开发者在市场上线已研发完成的模型，对训练完成后的模型发布至模型市场模块进行共享和展示，或是选购他人研发模型。本发明专利技术以模型研发为核心，形成模型引擎模块、模型工厂模块和模型市场模块，实现对AI资源灵活调度与流水线式模型生产，用于支撑企业机器学习、深度学习模型研发。度学习模型研发。度学习模型研发。
【技术实现步骤摘要】
适用于人工智能中台的系统和方法、可读介质
[0001]本专利技术涉及人工智能
，具体地，涉及一种适用于人工智能中台的系统和方法、可读介质。
技术介绍
[0002]目前AI模型研发即是需要进行大量的模型开发、调试、部署工作，研发任务需要灵活使用图形处理器等算力资源。同时模型研发过程复杂，简单提供工具无法很好协助非AI专业开发者完成模型训练。
[0003]经过检索，专利文献CN112347145A公开了一种AI中台系统，包括基础数据库、信息筛选模块、共享数据存储模块、特征提取模块、深度学习模块、模型数据库、结果数据库、处理器。本专利技术能打破“信息孤岛”，各个系统中的数据能实现共享，促进了各个系统之间的协助，数据在数据平台和业务系统之间形成了一个良性的闭环。该现有技术的不足之处在于虽提供了AI模型研发所需工作，但未能形成标准化研发流程，也不能提供充分利用中台算力资源。
[0004]专利文献CN110941421A公开了一种开发机器学习装置及其使用方法，包括：机器学习平台，其为基于华为FusionInsight HD分布式存储和并行计算技术，从海量数据中挖掘价值信息的平台；深度学习平台，其为一个企业级深度学习建模平台，能使客户算法开发人员高效管理数据集、算法代码开发、模型评估与预测服务发布体验，降低深度学习建模门槛；推理平台，其主要完成多算法统一管理与任务容器化异构资源统一调度，助力客户实现集群算力共享，降低AI系统的运维成本。该现有技术虽然借助了深度学习平台，但是仍然无法协助非AI专业开发者完成模型巡礼按，同时，未能形成标准化研发流程，也不能提供充分利用中台算力资源。
[0005]因此，亟需研发设计一种能协助AI工程师进行研发的方法和系统。
技术实现思路
[0006]针对现有技术中的缺陷，本专利技术的目的是提供一种适用于人工智能中台的系统和方法、可读介质，用于支撑企业机器学习、深度学习模型研发。
[0007]根据本专利技术提供的一种适用于人工智能中台的系统，包括：
[0008]模型引擎模块：模型引擎管理模型任务，并对接异构计算资源的容器集群；
[0009]模型工厂模块：提供模型开发流水线，流水线用于指引模型开发者准备模型训练与推理所需的内容，并向模型引擎模块申请执行任务；
[0010]模型市场模块：与对接中台的AIBox模块协作，形成云边协同方案。帮助模型开发者在市场上线已研发完成的模型，对训练完成后的模型发布至模型市场模块进行共享和展示，或是选购他人研发模型。
[0011]优选地，模型引擎模块包括任务类型、所需算力资源、任务依赖镜像和任务特定参数信息。
[0012]优选地，模型引擎模块通过调度机制在集群节点中选择有可用算力的主机节点，拉取任务所需镜像包并在节点上部署应用，允许模型开发者所需的模型训练和推理任务，并根据规则将磁盘挂载进入训练任务中，将任务生产的训练结果和运行日志信息进行持久化存储。
[0013]优选地，模型引擎模块对接的容器集群能将主机节点端口与容器应用端口进行映射，允许用户从外部进行访问，用以查看训练任务接口或是调用推理任务进行场景识别和预测。
[0014]优选地，模型工厂模块中在模型开发流水线上先要求模型开发者上传模型所需数据集，并根据数据类型进行标注，标注部分基于数据集类型，根据不同模型场景支持多种标注方式。
[0015]优选地，模型工厂模块中会选择模型训练所需算法，从平台预置算法中根据所需识别场景选择，或自行上传模型训练或推理用代码至平台代码库中，制作成镜像；
[0016]开发者根据代码库地址上传自己模型源码，并根据代码所需环境编制镜像脚本，用于模型引擎建立任务，利用中台资源在云上部署模型推理服务，使模型可针对所需场景进行内容识别。
[0017]优选地，模型市场模块展示人工智能中台上所有开发者完成研发、申请共享并通过审核的模型，所述模型市场模块引导模型开发者发布模型，开发者从已研发模型中选择模型申请共享展示。
[0018]优选地，AI Box管理模块中对与人工智能中台关联的边缘端推理产品AI Box进行管控，开发者购入AI Box并在中台进行注册，收集AI Box信息与中台租户进行绑定，人工智能中台基于AI Box信息生成许可证文件，并将许可证发放至AI Box设备中。
[0019]根据本专利技术提供的一种适用于人工智能中台的设计方法，采用上述的适用于人工智能中台的系统进行设计，包括如下步骤：
[0020]步骤S1：模型引擎管理模型任务，并对接异构计算资源的容器集群；
[0021]步骤S2：提供模型开发流水线，流水线用于指引模型开发者准备模型训练与推理所需的内容，并向模型引擎模块申请执行任务；
[0022]步骤S3：帮助模型开发者在市场上线已研发完成的模型，对训练完成后的模型发布至模型市场模块进行共享和展示。
[0023]根据本专利技术提供的一种存储有计算机程序的计算机可读存储介质，计算机程序被处理器执行时实现上述的适用于人工智能中台的设计方法步骤。
[0024]与现有技术相比，本专利技术具有如下的有益效果：
[0025]1、本专利技术通过采用人工智能中台模型引擎，采用容器技术对AI应用进行标准化封装，解决AI研发中环境搭建复杂。
[0026]2、本专利技术通过人工智能模型工厂简化模型研发过程，解决AI研发中研发过程复杂、算法门槛较高、数据标注困难的问题。
[0027]3、本专利技术通过模型市场让业务单元有能力分享与交流AI能力，形成AI研发共创共建生态，解决企业内部AI能力不互通的问题。
[0028]4、本专利技术通过AI Box管理模块实现保证数据安全情况下对边缘端设备进行数据下发，形成AI云边协同方案
[0029]5、本专利技术通过中台对企业内资源，实现训练资源集中分配管理，解决企业内AI所需算力资源选型困难，算力资源稀缺问题，在需要时可在云上进行申请使用，空闲时主动释放实现资源灵活调度。
附图说明
[0030]通过阅读参照以下附图对非限制性实施例所作的详细描述，本专利技术的其它特征、目的和优点将会变得更明显：
[0031]图1为本专利技术中适用于人工智能中台的系统的框架示意图；
[0032]图2为本专利技术中适用于人工智能中台的系统中模型引擎任务生命周期示意图；
[0033]图3为本专利技术中适用于人工智能中台的系统中模拟工厂使用过程示意图；
[0034]图4为本专利技术中适用于人工智能中台的系统中AI Box许可证下发过程示意图。
具体实施方式
[0035]下面结合具体实施例对本专利技术进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本专利技术，但不以任何形式限制本专利技术。应当指出的是，对本领域的普通技术人员来说，在不脱离本专利技术构思的前提下，还可以做出若干变化和改进。这些都属于本专利技术的保护范围。
[0036]如图1
‑
图4所示，本专利技术提供了一种适用于人工智能中台的系统，以本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种适用于人工智能中台的系统，其特征在于，包括：模型引擎模块：模型引擎管理模型任务，并对接异构计算资源的容器集群；模型工厂模块：提供模型开发流水线，流水线用于指引模型开发者准备模型训练与推理所需的内容，并向模型引擎模块申请执行任务；模型市场模块：与对接中台的AIBox模块协作，形成云边协同方案，帮助模型开发者在市场上线已研发完成的模型，对训练完成后的模型发布至模型市场模块进行共享和展示，或是选购他人研发模型。2.根据权利要求1所述的适用于人工智能中台的系统，其特征在于，所述模型引擎模块包括任务类型、所需算力资源、任务依赖镜像和任务特定参数信息。3.根据权利要求2所述的适用于人工智能中台的系统，其特征在于，所述模型引擎模块通过调度机制在集群节点中选择有可用算力的主机节点，拉取任务所需镜像包并在节点上部署应用，允许模型开发者所需的模型训练和推理任务，并根据规则将磁盘挂载进入训练任务中，将任务生产的训练结果和运行日志信息进行持久化存储。4.根据权利要求1所述的适用于人工智能中台的系统，其特征在于，所述模型引擎模块对接的容器集群能将主机节点端口与容器应用端口进行映射，允许用户从外部进行访问，用以查看训练任务接口或是调用推理任务进行场景识别和预测。5.根据权利要求1所述的适用于人工智能中台的系统，其特征在于，所述模型工厂模块中在模型开发流水线上先要求模型开发者上传模型所需数据集，并根据数据类型进行标注，标注部分基于数据集类型，根据不同模型场景支持多种标注方式。6.根据权利要求1所述的适用于人工智能中台的系统，其特征在于，所述模型工厂模块中会选择模型训练所需算法，从平台...
【专利技术属性】
技术研发人员：金睿哲，沈春锋，韩帅锋，陈志韬，胡益卓，陆张宇，胡兵，
申请(专利权)人：上海宝信软件股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。