一种面向任务的人工智能项目通用架构平台及其使用方法技术

本发明专利技术提供了一种面向任务的人工智能项目通用架构平台及其使用方法，所述面向任务的人工智能项目通用架构平台包括：模型服务注册模块，用于注册预先训练好的模型，以及注册模型服务；调用顺序管理模块，用于管理和调整各模型服务之间的调用顺序；调用数据管理模块，用于管理和调整各模型服务之间的数据结构关系和调用的上下级关系；服务推理管理模块，用于提供调用入口以及对调用进行权限鉴定。本发明专利技术可以避免不同项目重复设计架构，使得面向任务的人工智能可以简单地进行部署，而且部署的模型能够即插即用。模型能够即插即用。模型能够即插即用。

【技术实现步骤摘要】
一种面向任务的人工智能项目通用架构平台及其使用方法


[0001]本专利技术涉及人工智能部署架构领域，具体涉及一种面向任务的人工智能项目通用架构平台及其使用方法。

技术介绍

[0002]随着深度学习技术出现，大数据以及计算能力的提高，人工智能成为推动科技跨域发展、产业优化升级、生产力整体跃升的重要驱动力量，其基础性和关键性作用日益凸显。
[0003]但是，随着人工智能任务越来越复杂，单模型系统已经不能满足现实的需要，更多的系统是通过多模态、多模型配合来实现的。这就需要针对每一个系统设计一个高性能、高可用性的软件架构来配合模型的开发部署。
[0004]另一方面，人工智能在赋能行业的过程中，一般都会涌现很多的创新性构想，所以需要一个系统对这些构想做快速实现、快速试错。如果每一个构想都重新设计软件架构来配合，则需要不同岗位的工作人员花费大量的沟通成本，拉长了实现的周期，增加了试错的成本。

技术实现思路

[0005]本专利技术的目的在于针对现有技术中的问题，提供一种面向任务的人工智能项目通用架构平台及其使用方法，以满足人工智能项目需要快速实现、快事试错的需求。
[0006]为实现上述目的，本专利技术采用以下技术方案：
[0007]一种面向任务的人工智能项目通用架构平台，包括：
[0008]模型服务注册模块，用于注册预先训练好的模型，以及注册模型服务；
[0009]调用顺序管理模块，用于管理和调整各模型服务之间的调用顺序；
[0010]调用数据管理模块，用于管理和调整各模型服务之间的数据结构关系和调用的上下级关系；
[0011]服务推理管理模块，用于提供调用入口以及对调用进行权限鉴定。
[0012]进一步地，所述模型服务注册模块在注册模型服务时，要求用户提供服务调用的地址和调用的数据结构。
[0013]进一步地，所述服务推理管理模块中设有服务推理入口，用于供用户提交推理请求以及输入待推理数据；
[0014]所述服务推理管理模块还用于按照调用顺序管理模块中设置的调用顺序和调用数据管理模块中设置的数据结构关系，执行用户的推理请求，并输出得到的推理数据。
[0015]进一步地，所述模型服务注册模块还用于修改或删除注册好的模型服务。
[0016]进一步地，所述调用顺序管理模块中设有条件跳转子模块，用于通过条件进行调用顺序的跳转设置。
[0017]一种以上所述的面向任务的人工智能项目通用架构平台的使用方法，包括：
[0018]S1、通过模型服务注册模块，注册预先训练好的模型及其相关的模型服务，在注册模型服务时，提供服务调用的地址和调用的数据结构；
[0019]S2、通过调用顺序管理模块，修改各模型服务之间的调用顺序；
[0020]S3、通过调用数据管理模块，修改各模型服务之间的上下级调用关系和数据结构关系；
[0021]S4、通过服务推理管理模块中的服务推理入口，提交推理请求并输入待推理数据；所述服务推理管理模块按照调用顺序管理模块中设置的调用顺序和调用数据管理模块中设置的数据结构关系，执行用户的推理请求，并输出得到的推理数据。
[0022]本专利技术提供的一种面向任务的人工智能项目通用架构平台及其使用方法，在训练好模型后，可以直接在平台上注册这个模型，提交调用顺序和调用数据结构后，即可完成模型的工程部署，大大加快了项目的试错速度，降低了试错的成本。本专利技术可以避免不同项目重复设计架构，使得面向任务的人工智能可以简单地进行部署，而且部署的模型能够即插即用。
附图说明
[0023]图1是本实施例提供的一种面向任务的人工智能项目通用架构平台的结构示意图。
[0024]图2是本实施例提供的一种面向任务的人工智能项目通用架构平台的使用方法流程图。
具体实施方式
[0025]下面将结合附图和具体的实施例对本专利技术的技术方案进行详细说明。
[0026]如图1所示，本实施例提供的一种面向任务的人工智能项目通用架构平台，包括：
[0027]模型服务注册模块，用于注册预先训练好的模型，以及注册模型服务。其中，模型服务是指以模型为基础所做的工程封装，其以服务的形式对外进行数据交互。所述模型服务注册模块在注册模型服务时，要求用户提供服务调用的地址和调用的数据结构。出了注册(增加)模型服务外，模型服务注册模块还支持修改或删除系统中已注册好的模型服务。
[0028]调用顺序管理模块，用于管理和调整各模型服务之间的调用顺序。所述调用顺序管理模块中设有条件跳转子模块，用于通过条件进行调用顺序的跳转设置；可以跳过调用已注册的模型服务，也可以重复调用同一个模型服务。
[0029]调用数据管理模块，用于管理和调整各模型服务之间的数据结构关系和调用的上下级关系；能够从上一级调用的模型服务中提取出相应的数据去调用下一级的模型服务做推理。
[0030]服务推理管理模块，用于提供调用入口以及对调用进行权限鉴定。所述服务推理管理模块中设有服务推理入口，用于供用户提交推理请求以及输入待推理数据；所述服务推理管理模块还用于按照调用顺序管理模块中设置的调用顺序和调用数据管理模块中设置的数据结构关系，执行用户的推理请求，并输出得到的推理数据。
[0031]如图2所示，本专利技术还提供了一种以上所述的面向任务的人工智能项目通用架构平台的使用方法，包括：
[0032]S1、通过模型服务注册模块，注册预先训练好的模型及其相关的模型服务，在注册模型服务时，提供服务调用的地址和调用的数据结构；
[0033]S2、通过调用顺序管理模块，修改各模型服务之间的调用顺序；
[0034]S3、通过调用数据管理模块，修改各模型服务之间的上下级调用关系和数据结构关系；
[0035]S4、通过服务推理管理模块中的服务推理入口，提交推理请求并输入待推理数据；所述服务推理管理模块按照调用顺序管理模块中设置的调用顺序和调用数据管理模块中设置的数据结构关系，执行用户的推理请求，并输出得到的推理数据。
[0036]以上所述实施例仅表达了本专利技术的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对本专利技术专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本专利技术构思的前提下，还可以做出若干变形和改进，这些都属于本专利技术的保护范围。因此，本专利技术专利的保护范围应以所附权利要求为准。
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种面向任务的人工智能项目通用架构平台，其特征在于，包括：模型服务注册模块，用于注册预先训练好的模型，以及注册模型服务；调用顺序管理模块，用于管理和调整各模型服务之间的调用顺序；调用数据管理模块，用于管理和调整各模型服务之间的数据结构关系和调用的上下级关系；服务推理管理模块，用于提供调用入口以及对调用进行权限鉴定。2.根据权利要求1所述的面向任务的人工智能项目通用架构平台，其特征在于，所述模型服务注册模块在注册模型服务时，要求用户提供服务调用的地址和调用的数据结构。3.根据权利要求2所述的面向任务的人工智能项目通用架构平台，其特征在于，所述服务推理管理模块中设有服务推理入口，用于供用户提交推理请求以及输入待推理数据；所述服务推理管理模块还用于按照调用顺序管理模块中设置的调用顺序和调用数据管理模块中设置的数据结构关系，执行用户的推理请求，并输出得到的推理数据。4.根据权利要求2所述的面向任务的人工...

【专利技术属性】
技术研发人员：吴博文，龚科，陈添水，
申请(专利权)人：拓元广州智慧科技有限公司，
类型：发明
国别省市：