System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 任务处理方法、装置、设备、存储介质制造方法及图纸_技高网

任务处理方法、装置、设备、存储介质制造方法及图纸

技术编号:41326632 阅读:3 留言:0更新日期:2024-05-13 15:04
本申请公开了一种任务处理方法、装置、设备及存储介质,涉及数据分析技术领域。该方法包括:前端获取各个组件任务的配置信息以及各个组件任务之间的编排关系,根据每个组件任务的配置信息和各个组件任务之间的编排关系生成任务配置文件,将任务配置文件传输至后端;后端根据任务配置文件中的配置信息生成对应的组件任务,根据任务配置文件中的编排关系确定各个组件任务之间的层次结构;后端基于层次结构逐层处理各个组件任务,以使每个组件任务对应的组件执行相应的数据查询和数据存储的过程。通过上述技术手段,以解决现有技术中组件的组合使用过程需要耗费大量的人力资源以及时间资源的问题,提高了计算引擎组件的组合使用效率。

【技术实现步骤摘要】

本申请涉及数据分析,尤其涉及一种任务处理方法、装置、设备、存储介质


技术介绍

1、目前,数据查询与数据存储的组件多种多样,并且每个不同类型的组件都有对应的优点和缺点。因此在做项目的大数据架构时会根据每个组件的擅长与不擅长的地方,将多种组件进行组合使用,以使项目更具完整性、健壮性和灵活性。

2、在现有技术中,通过编写代码实现组件的组合使用。由于完全依赖于开发人员编写的代码实现,因而对开发人员的业务水平要求较高,且编写极易出现代码编写错误和逻辑结构不合理等问题。组件的组合使用过程需要耗费大量的人力资源以及时间资源,效率极低。


技术实现思路

1、本申请提供一种任务处理方法、装置、设备及存储介质,以解决现有技术中组件的组合使用过程需要耗费大量的人力资源以及时间资源的问题,提高了组件的组合使用效率。

2、第一方面,本申请提供了一种任务处理方法,包括:

3、前端获取各个组件任务的配置信息以及所述各个组件任务之间的编排关系,根据每个所述组件任务的配置信息和各个所述组件任务之间的编排关系生成任务配置文件,将所述任务配置文件传输至后端;

4、所述后端根据所述任务配置文件中的配置信息生成对应的组件任务,根据所述任务配置文件中的编排关系确定各个所述组件任务之间的层次结构;

5、所述后端基于所述层次结构逐层处理各个所述组件任务,以使每个所述组件任务对应的组件执行相应的数据查询和数据存储的过程。

6、可选地,所述前端获取各个组件任务的配置信息以及所述各个组件任务之间的编排关系,包括:

7、前端响应于对任务编排界面中的组件类型输入的任务创建操作,在所述任务编排界面创建对应组件任务的任务板块;

8、前端响应于对所述任务板块的点击操作,显示所述组件任务的配置界面;

9、前端响应于对所述配置界面输入的配置填写操作,获取组件任务的输入数据源、输出数据源、组件类型和结构化查询语句。

10、可选地,所述前端获取各个组件任务的配置信息以及所述各个组件任务之间的编排关系,包括:

11、所述前端响应于对所述任务编排界面中各个所述任务板块输入的连线操作和/或移动操作,确定各个所述任务板块对应的各个组件任务之间的编排关系。

12、可选地,所述后端根据所述任务配置文件中的配置信息生成对应的组件任务,包括:

13、后端根据所述配置信息中的组件类型、输入数据源和输出数据源,对所述配置信息中的结构化查询语句进行解析,得到所述配置信息对应的组件任务。

14、可选地,所述后端基于所述层次结构逐层处理各个所述组件任务,以使每个所述组件任务对应的组件执行相应的数据查询和数据存储的过程,包括:

15、所述后端通过所述组件任务对应的组件,根据所述结构化查询语句在所述输入数据源查询对应的数据,将查询到数据存入所述输出数据源中。

16、可选地,在所述每个所述组件任务对应的组件执行相应的数据查询和数据存储的过程之后,还包括:

17、所述前端响应于在任务控制界面触发的重跑操作,生成对应组件任务的重跑请求,将所述重跑请求传输至后端;

18、所述后端根据所述重跑请求重新处理对应的组件任务。

19、可选地,所述任务配置文件还包括任务运行周期;相应的,所述后端基于所述层次结构逐层处理各个所述组件任务,包括:

20、根据所述任务运行周期处理各个所述组件任务。

21、第二方面,本申请提供了一种任务处理装置,包括:

22、配置文件生成模块,被配置为前端获取各个组件任务的配置信息以及所述各个组件任务之间的编排关系,根据每个所述组件任务的配置信息和各个所述组件任务之间的编排关系生成任务配置文件,将所述任务配置文件传输至后端;

23、配置文件解析模块,被配置为所述后端根据所述任务配置文件中的配置信息生成对应的组件任务,根据所述任务配置文件中的编排关系确定各个所述组件任务之间的层次结构;

24、组件任务处理模块,被配置为所述后端基于所述层次结构逐层处理各个所述组件任务,以使每个所述组件任务对应的组件执行相应的数据查询和数据存储的过程。

25、可选地,所述配置文件生成模块包括:

26、任务板块创建单元,被配置为前端响应于对任务编排界面中的组件类型输入的任务创建操作,在所述任务编排界面创建对应组件任务的任务板块;

27、配置界面显示单元,被配置为前端响应于对所述任务板块的点击操作,显示所述组件任务的配置界面;

28、配置信息获取单元,被配置为前端响应于对所述配置界面输入的配置填写操作,获取组件任务的输入数据源、输出数据源、组件类型和结构化查询语句。

29、可选地,所述配置文件生成模块包括:

30、编排关系确定单元,被配置为所述前端响应于对所述任务编排界面中各个所述任务板块输入的连线操作和/或移动操作,确定各个所述任务板块对应的各个组件任务之间的编排关系。

31、可选地,所述配置文件解析模块包括:

32、组件任务生成单元,被配置为后端根据所述配置信息中的组件类型、输入数据源和输出数据源,对所述配置信息中的结构化查询语句进行解析,得到所述配置信息对应的组件任务。

33、可选地,所述组件任务处理模块包括:

34、组件任务处理单元,被配置为所述后端通过所述组件任务对应的组件,根据所述结构化查询语句在所述输入数据源查询对应的数据,将查询到数据存入所述输出数据源中。

35、可选地,所述任务处理设备还包括任务重跑模块,所述任务重跑模块包括:

36、重跑请求生成单元,被配置为在所述每个所述组件任务对应的组件执行相应的数据查询和数据存储的过程之后,所述前端响应于在任务控制界面触发的重跑操作,生成对应组件任务的重跑请求,将所述重跑请求传输至后端;

37、任务重跑单元,被配置为所述后端根据所述重跑请求重新处理对应的组件任务。

38、可选地,所述任务配置文件还包括任务运行周期;相应的,所述组件任务处理模块还包括:

39、周期运行单元,被配置为根据所述任务运行周期处理各个所述组件任务。

40、第三方面,本申请提供了一种任务处理设备,包括:

41、一个或多个处理器;存储器,存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如第一方面所述的任务处理方法。

42、第四方面,本申请提供了一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如第一方面所述的任务处理方法。

43、在本申请中,通过前端获取各个组件任务的配置信息以及各个组件任务之间的编排关系,根据每个组件任务的配置信息和各个组件任务之间的编排关系生成任务配置文件,将任务配置文件传输至后端;后端根据任本文档来自技高网...

【技术保护点】

1.一种任务处理方法,其特征在于,包括:

2.根据权利要求1所述的任务处理方法,其特征在于,所述前端获取各个组件任务的配置信息以及所述各个组件任务之间的编排关系,包括:

3.根据权利要求2所述的任务处理方法,其特征在于,所述前端获取各个组件任务的配置信息以及所述各个组件任务之间的编排关系,包括:

4.根据权利要求2所述的任务处理方法,其特征在于,所述后端根据所述任务配置文件中的配置信息生成对应的组件任务,包括:

5.根据权利要求4所述的任务处理方法,其特征在于,所述后端基于所述层次结构逐层处理各个所述组件任务,以使每个所述组件任务对应的组件执行相应的数据查询和数据存储的过程,包括:

6.根据权利要求1所述的任务处理方法,其特征在于,在所述每个所述组件任务对应的组件执行相应的数据查询和数据存储的过程之后,还包括:

7.根据权利要求1所述的任务处理方法,其特征在于,所述任务配置文件还包括任务运行周期;相应的,所述后端基于所述层次结构逐层处理各个所述组件任务,包括:

8.一种任务处理装置,其特征在于,包括:

9.一种任务处理设备,其特征在于,包括:

10.一种包含计算机可执行指令的存储介质,其特征在于,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-7任一所述的任务处理方法。

...

【技术特征摘要】

1.一种任务处理方法,其特征在于,包括:

2.根据权利要求1所述的任务处理方法,其特征在于,所述前端获取各个组件任务的配置信息以及所述各个组件任务之间的编排关系,包括:

3.根据权利要求2所述的任务处理方法,其特征在于,所述前端获取各个组件任务的配置信息以及所述各个组件任务之间的编排关系,包括:

4.根据权利要求2所述的任务处理方法,其特征在于,所述后端根据所述任务配置文件中的配置信息生成对应的组件任务,包括:

5.根据权利要求4所述的任务处理方法,其特征在于,所述后端基于所述层次结构逐层处理各个所述组件任务,以使每个所述组件任务对应的组件执行相应的数...

【专利技术属性】
技术研发人员:田志军秦基伟洪敏新
申请(专利权)人:佳都科技集团股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1