一种建模任务调度的执行方法和装置制造方法及图纸

技术编号:29930660 阅读:14 留言:0更新日期:2021-09-04 18:58
本发明专利技术提供了一种建模任务调度的执行方法和装置,涉及AI建模的技术领域,包括:确定AI模型中的任务,并基于任务构建目录树,其中,任务的类型至少包括:数据同步任务、SQL任务、Python任务、可视化编程任务;基于目录树构建任务树,并为目录树中的任务配置周期调度信息,其中,周期调度信息用于表征任务的执行周期;基于任务树和周期调度信息,生成配置文件;利用任务执行引擎对配置文件进行解析,以使任务根据周期调度信息执行,解决了现有技术中现有的AI模型的在执行周期性任务时需要人工手动操作的技术问题。动操作的技术问题。动操作的技术问题。

【技术实现步骤摘要】
一种建模任务调度的执行方法和装置


[0001]本专利技术涉及AI建模的
,尤其是涉及一种建模任务调度的执行方法和装置。

技术介绍

[0002]AI模型的开发是一项非常复杂的数据加工与运算的过程,算法工程师在模型开发的各个环节中,需要使用到不同的编程语言。
[0003]整个模块开发的逻辑,由不同编程语言开发的一系列的子任务组成,它们之间有先后依赖关系。如果组织这些不同的任务,让它们按先后依次执行,是一个普遍又棘手的问题。
[0004]数据分析加工、特征工程和模型训练是机器学习领域的几个重要模块。随着海量数据的不断积累,定时同步增量数据,进行数据分析、加工和特征工程,然后优化模型的流程越来越普遍。而完成上述流程使用的工具和方法多种多样,比如数据同步需要用到数据同步工具,数据分析和加工需要用到SQL和Python,特征工程和模型训练需要用到Python或者拖拉拽可视化建模。可见整个流程需要涉及到各种不同类型的方法和工具,而这些方法和工具通常在不同的系统中,比如数据同步和数据分析任务通常在大数据平台相关的系统中,特征处理和建模任务通常在模型平台系统中。
[0005]现有的AI模型中的任务按照顺序,人工手动依次执行。但是,这种方法存在的缺陷非常明显,子任务较多时比较麻烦;如果需要定期执行时,每次都需要人来操作。
[0006]针对上述问题,还未提出有效的解决方案。

技术实现思路

[0007]有鉴于此,本专利技术的目的在于提供一种建模任务调度的执行方法和装置,以缓解了现有技术中现有的AI模型的在执行周期性任务时需要人工手动操作的技术问题。
[0008]第一方面,本专利技术实施例提供了一种建模任务调度的执行方法,确定AI模型中的任务,并基于所述任务构建目录树,其中,所述任务的类型至少包括:数据同步任务、SQL任务、Python任务、可视化编程任务;基于所述目录树构建任务树,并为所述目录树中的任务配置周期调度信息,其中,所述周期调度信息用于表征所述任务的执行周期;基于所述任务树和所述周期调度信息,生成配置文件;利用任务执行引擎对所述配置文件进行解析,以使所述任务根据所述周期调度信息执行。
[0009]进一步地,基于所述目录树构建任务树,包括:在获取到用户的第一目标操作之后,基于所述第一目标操作,所述目录树和预设画布,构建所述任务树,其中,所述第一目标操作为将所述任务树中的任务添加至所述预设画布中的操作。
[0010]进一步地,所述方法还包括:在获取到用户的第二目标操作之后,基于所述任务和所述第二目标操作,生成目标任务,其中,所述第二目标操作为用户对所述任务进行修改的操作,所述目标任务中包括一个或多个版本的任务。
[0011]进一步地,所述方法还包括:在获取到用户的第三目标操作之后,基于所述第三目标操作,对所述任务和/或所述目标任务的执行记录进行查询,得到任务执行记录。
[0012]第二方面,本专利技术实施例还提供了一种建模任务的调度执行装置,包括:第一构建单元,第二构建单元,配置单元和执行单元,其中,所述第一构建单元,用于确定AI模型中的任务,并基于所述任务构建目录树,其中,所述任务的类型至少包括:数据同步任务、SQL任务、Python任务、可视化编程任务;所述第二构建单元,用于基于所述目录树构建任务树,并为所述目录树中的任务配置周期调度信息,其中,所述周期调度信息用于表征所述任务的执行周期;所述配置单元,用于基于所述任务树和所述周期调度信息,生成配置文件;所述执行单元,用于利用任务执行引擎对所述配置文件进行解析,以使所述任务根据所述周期调度信息执行。
[0013]进一步地,所述第二构建单元,用于:在获取到用户的第一目标操作之后,基于所述第一目标操作,所述目录树和预设画布,构建所述任务树,其中,所述第一目标操作为将所述任务树中的任务添加至所述预设画布中的操作。
[0014]进一步地,述装置还包括:修改单元,用于在获取到用户的第二目标操作之后,基于所述任务和所述第二目标操作,生成目标任务,其中,所述第二目标操作为用户对所述任务进行修改的操作,所述目标任务中包括一个或多个版本的任务。
[0015]进一步地,所述装置还包括:查询单元,用于在获取到用户的第三目标操作之后,基于所述第三目标操作,对所述任务和/或所述目标任务的执行记录进行查询,得到任务执行记录。
[0016]第三方面,本专利技术实施例还提供了一种电子设备,包括存储器以及处理器,所述存储器用于存储支持处理器执行上述第一方面中所述方法的程序,所述处理器被配置为用于执行所述存储器中存储的程序。
[0017]第四方面,本专利技术实施例还提供了一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器运行时执行第一方面中所述方法的步骤。
[0018]在本专利技术实施例中,通过确定AI模型中的任务,并基于任务构建目录树,其中,任务的类型至少包括:数据同步任务、SQL任务、Python任务、可视化编程任务;基于目录树构建任务树,并为目录树中的任务配置周期调度信息,其中,周期调度信息用于表征任务的执行周期;基于任务树和周期调度信息,生成配置文件;利用任务执行引擎对配置文件进行解析,以使任务根据周期调度信息执行,达到了AI模型中的任务能够按照执行周期自动执行的目的,进而解决了现有技术中现有的AI模型的在执行周期性任务时需要人工手动操作的技术问题,从而实现了提高了AI模型的工作效率的技术效果。
[0019]本专利技术的其他特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本专利技术而了解。本专利技术的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
[0020]为使本专利技术的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
[0021]为了更清楚地说明本专利技术具体实施方式或现有技术中的技术方案,下面将对具体
实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本专利技术的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0022]图1为本专利技术实施例提供的一种建模任务调度的执行方法的流程图;
[0023]图2为本专利技术实施例提供的一种建模任务调度的执行装置的示意图;
[0024]图3为本专利技术实施例提供的一种电子设备的示意图。
具体实施方式
[0025]为使本专利技术实施例的目的、技术方案和优点更加清楚,下面将结合附图对本专利技术的技术方案进行清楚、完整地描述,显然,所描述的实施例是本专利技术一部分实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本专利技术保护的范围。
[0026]实施例一:
[0027]根据本专利技术实施例,提供了一种建模任务调度的执行方法的实施例,需要说明的是,本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种建模任务的调度执行方法,其特征在于,包括:确定AI模型中的任务,并基于所述任务构建目录树,其中,所述任务的类型至少包括:数据同步任务、SQL任务、Python任务、可视化编程任务;基于所述目录树构建任务树,并为所述目录树中的任务配置周期调度信息,其中,所述周期调度信息用于表征所述任务的执行周期;基于所述任务树和所述周期调度信息,生成配置文件;利用任务执行引擎对所述配置文件进行解析,以使所述任务根据所述周期调度信息执行。2.根据权利要求1所述的方法,其特征在于,基于所述目录树构建任务树,包括:在获取到用户的第一目标操作之后,基于所述第一目标操作,所述目录树和预设画布,构建所述任务树,其中,所述第一目标操作为将所述任务树中的任务添加至所述预设画布中的操作。3.根据权利要求1所述的方法,其特征在于,所述方法还包括:在获取到用户的第二目标操作之后,基于所述任务和所述第二目标操作,生成目标任务,其中,所述第二目标操作为用户对所述任务进行修改的操作,所述目标任务中包括一个或多个版本的任务。4.根据权利要求3所述的方法,其特征在于,所述方法还包括:在获取到用户的第三目标操作之后,基于所述第三目标操作,对所述任务和/或所述目标任务的执行记录进行查询,得到任务执行记录。5.一种建模任务的调度执行装置,其特征在于,包括:第一构建单元,第二构建单元,配置单元和执行单元,其中,所述第一构建单元,用于确定AI模型中的任务,并基于所述任务构建目录树,其中,所述任务的类型至少包括:数据同步任务、SQL任务、Python任务、可...

【专利技术属性】
技术研发人员:蔡石林管胜陈树华
申请(专利权)人:北京顶象技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1