System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于任务的智能分析模型编排调用系统及调用方法技术方案_技高网

一种基于任务的智能分析模型编排调用系统及调用方法技术方案

技术编号:40202443 阅读:5 留言:0更新日期:2024-02-02 22:15
本申请提出一种基于任务的智能分析模型编排调用系统及调用方法,包括任务声明定和任务解析执行。利用任务声明定义将数据源和模型算法解耦、模型算法和业务应用逻辑解耦,将数据源、模型运算等封装成算子,通过编排将数据源、模型运算结果按需组合在一起封装成任务;在利用任务解析执行,通过调用智能分析模型和算子满足用户的需求,完成模型算法和应用逻辑的解耦,实现了模型算法快速支持不同的应用逻辑。本发明专利技术以任务为单位支撑上层应用满足应用需求,从而提高了智能分析模型的灵活性和可扩展性,满足应用快速迭代变更的需求。

【技术实现步骤摘要】

本专利技术涉及人工智能、和自然语言处理领域,具体涉及一种基于任务的智能分析模型编排调用系统及调用方法


技术介绍

1、当前,随着人工智能产业的蓬勃发展,人工智能分析算法可快速面向人们所需的场景进行定制研发、快速部署上线,如安全生产监控场景下安全帽、防护服等模型识别等。这些模型往往被部署到摄像头硬件中,或者是和应用系统紧密结合在一起。这导致了当业务逻辑发生变化时,比如对新数据源进行扩充或者业务目标调整时,往往需要对整个模型进行重新调整后再上线,已经不能满足业务快速迭代变更的需要。


技术实现思路

1、为了解决现有技术所存在的问题,本专利技术提供一种基于任务的智能分析模型编排调用系统,包括:

2、任务声明模块:用于将要编排的任务所涉及的至少一种数据源和智能分析模型算法进行解耦并声明;并将各声明组合形成任务声明文件;

3、任务执行模块:用于根据用户的请求获取对应的任务声明文件,将所述任务声明文件实例化后进行解析得到若干可执行的单元,以及对各单元的调度顺序;

4、其中,所述若干可执行的单元包括下述中的一种或多种:可执行的模型、算子、模型/算子。

5、优选的,所述任务声明模块包括:

6、数据源管理器:用于存储并管理至少一种类型的数据源信息;所述数据源信息包括数据类型、数据内容格式与定义、访问接口、访问地址、用户认证;所述数据源包括下述一种或多种类型:结构化、非结构化、流式数据和批式数据;

7、智能分析模型管理器:用于存储并管理多种类型的智能分析模型以及各模型对应的执行文件;所述智能分析模型包括如下一种或多种属性:调用地址、输入参数及格式要求、模型参数、模型版本号、输出结果及格式、模型功能描述;所述智能分析模型包括下属一种或多种类型:文本、视频、音频和图像;

8、算子管理子模块;用于存储并管理多种类型的算子;所述算子包括下述中的一种或多种类型:自定义算子、常用逻辑算子和常用数据处理算子;所述算子包括输入数据和输出数据,所述输入数据包括如下一种或多种:参数、连接相关元素;所述输出数据包括输出结果和输出格式;

9、任务管理器:用于管理完成声明和合规性审查的任务声明信息,每一个任务声明信息以json格式存储,每个任务声明都通过任务名称、版本号、自动生成的任务id编号进行唯一性定义和管理。支持任务声明的升级和删除。

10、优选的,所述算子管理子模块包括:算子管理器和组合逻辑管理器;

11、所述算子管理器:用于存储并管理多种常用数据处理算子,所述常用数据处理算子包括:数值计算和字符串处理相关的算子;所述算子包括如下类型:数值计算算子、字符串处理算子;

12、所述组合逻辑管理器:用于管理常用逻辑算子。

13、优选的,所述常用算子由平台统一提供、管理和升级;

14、所述自定义算子由用户管理,且每个自定义算子仅由定义该算子的用户可见;在增加算子时,用户管理包括:增加、删除或修改算子;所述用户管理还包括提供所述算子对应的可执行文件。

15、优选的,所述任务声明还包括:可视化拖拽编排器:用于对要编排的任务所涉及的各数据源、智能分析模型、算子提供声明服务,并提供图形化表示。

16、优选的,所述任务执行模块包括:任务调度管理器和计算结果池;

17、任务实例子模块用于:根据用户的请求获取对应的任务声明文件,将所述任务声明文件进行实例化,并为实例化的文件构建任务状态机及相应指令;

18、任务调度管理器用于:根据所述任务状态机的每条指令对任务运行子模块进行相应的调度;

19、任务运行子模块用于:执行相应的调度;所述调度包括下述中的一种或多种:开始任务接收数据源、停止任务接收数据源、执行相应的模型、执行相应的算子和输出计算结果;所述计算结果包括:执行相应的模型或执行相应的算子得到输出结果并将所述结果存入计算结果池的相应队列中;

20、计算结果池为带持久化功能的多标记多队列管理器,用于存放所有任务的中间计算结果和/或最终计算结果,其中每个任务对应一个队列;每次任务运行子模块存储数据后均对所述任务的队列状态进行更新。

21、优选的,所述任务实例子模块包括:任务管理器、任务进度管理器和任务解析器;

22、所述任务管理器用于:根据用户的请求调出所述请求相应的任务声明文件,并将所述任务声明文件封装成一个任务实例,下发给任务进度管理器;

23、所述任务进度管理器为一个支持多优先级队列的任务进度管理器,用于将任务实例发送给任务解析器,并接收所述任务解析器返回的状态机实例及相应指令;还用于根据进度消亡终止相应任务状态机、根据任务优先级下达任务命令来执行任务;所述任务命令包括:启动任务或终止任务;所述执行任务包括:激活任务或终止任务;

24、所述任务解析器为一个状态机生成器,基于任务声明文件解析、构造成状态机实例及相应指令。

25、优选的,所述任务运行子模块包括:数据源接入器、运行时管理子模块;所述运行时管理子模块包括:模型运行时管理器和算子运行时管理器;

26、所述数据源接入为高并发的多队列管理器,支持下述中的一种或多种数据操作:至少一种数据源接入、数据缓存、数据保序和高可靠传输;

27、所述模型运行时管理为基于多租户的容器池管理器,其用于为每个用户分配自有模型仓库;还用于根据指令调用并执行相应的模型,并将所述模型的执行结果输出至计算结果池;所述根据指令调用相应的模型包括:启动模型、下线模型、将数据拉取到相应的模型、将数据推送给相应模型、根据模型响应时间和负载自主决策模型扩缩容;

28、所述算子运行时管理为基于多租户的容器池算子管理器;用于根据指令执行相应的算子并得到所述算子的运算结果,将所述结果输出到计算结果池;执行算子包括:启动算子、下线算子、将数据拉取到相应算子、将数据推送给相应算子以及根据算子响应时间和负载自主决策容器的扩缩容;其中每个容器可以运行多个算子;所述算子管理器包括:平台自带算子外仓库和为每个用户分配的自定义算子仓库。

29、基于同一种专利技术构思,本专利技术还提供一种基于任务的智能分析模型编排调用方法,包括:

30、任务声明步骤:将要编排的任务所涉及的至少一种数据源和智能分析模型算法进行解耦并声明;将各声明组合形成任务声明文件;

31、任务执行步骤:根据用户的请求获取对应的任务声明文件,将所述任务声明文件实例化后进行解析得到若干可执行的单元,以及对各单元的调度顺序;

32、其中,所述若干可执行的单元包括下述中的一种或多种:可执行的模型、算子、模型/算子。

33、优选的,所述将要编排的任务所涉及的至少一种数据源和智能分析模型算法进行解耦并声明,包括:

34、基于可视化拖拽编排器对下述中的一种或多种对象进行声明:要编排的任务所涉及的各数据源、智能分析模型、算子和组合逻辑;

<本文档来自技高网...

【技术保护点】

1.一种基于任务的智能分析模型编排调用系统,其特征在于,包括:

2.如权利要求1所述的系统,其特征在于,所述任务声明模块包括:

3.如权利要求1所述的系统,其特征在于,所述任务执行模块包括

4.一种基于任务的智能分析模型编排调用方法,其特征在于,包括:

5.如权利要求4所述的方法,其特征在于,所述将要编排的任务所涉及的至少一种数据源和智能分析模型算法进行解耦并声明,包括:

6.如权利要求5所述的方法,其特征在于,所述将各元素组合形成任务声明文件,包括:

7.如权利要求4所述的方法,其特征在于,所述根据用户的请求获取对应的任务声明文件,将所述任务声明文件实例化后进行解析得到若干可执行的单元,以及对各单元的调度顺序,包括:

8.如权利要求6所述的方法,其特征在于,所述根据所述任务状态机的每条指令,执行相应的调度并存储各调度对应的结果之后还包括:任务调度管理器定时向任务进度管理器上报任务进度。

9.一种计算机设备,其特征在于,包括:至少一个处理器和存储器;

10.一种计算机可读存储介质,其特征在于,其上存有计算机程序,所述计算机程序被执行时,所述计算机程序包括权利要求1至3中任意一项所述的基于任务的智能分析模型编排调用系统中的程序。

...

【技术特征摘要】

1.一种基于任务的智能分析模型编排调用系统,其特征在于,包括:

2.如权利要求1所述的系统,其特征在于,所述任务声明模块包括:

3.如权利要求1所述的系统,其特征在于,所述任务执行模块包括

4.一种基于任务的智能分析模型编排调用方法,其特征在于,包括:

5.如权利要求4所述的方法,其特征在于,所述将要编排的任务所涉及的至少一种数据源和智能分析模型算法进行解耦并声明,包括:

6.如权利要求5所述的方法,其特征在于,所述将各元素组合形成任务声明文件,包括:

7.如权利要求4所述的方法,其特征在于,所述根...

【专利技术属性】
技术研发人员:尚舵何慧虹宋紫嫣
申请(专利权)人:中国工业互联网研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1