System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本公开涉及大数据和金融科技,尤其涉及一种数据处理方法、数据处理装置、电子设备、计算机可存储介质和计算机程序产品。
技术介绍
1、在数据处理的过程中,通常依照作业的执行顺序,对大量并行或串行的作业节点依次进行处理。在执行作业时,若使用的处理语句不当,则会导致系统产生报错。相关技术中通过监控各个作业节点的作业情况,对存在异常问题的作业节点及时响应,从而提高整个作业链的工作效率。
2、在实现本公开构思的过程中,专利技术人发现相关技术中至少存在如下问题:工作人员在对作业情况进行监控的过程中,由于难以直观地查看每个作业节点的执行情况以及处理结果,因此不便于对作业的执行逻辑进行判断,从而使得数据的维护成本较高。
技术实现思路
1、鉴于上述问题,本公开提供了数据处理方法、装置、设备、介质和程序产品。
2、根据本公开的第一个方面,提供了一种数据处理方法,包括:
3、基于待处理任务集中的多个子任务,生成任务处理架构图,其中,上述任务处理架构图中包括与多个上述子任务一一对应的数据点;
4、根据每个上述子任务的任务处理信息,确定上述任务处理架构图中与每个上述数据点对应的至少一个任务数据表;
5、针对每个上述子任务,基于上述任务处理信息和上述任务数据表中的数据处理信息对上述子任务处理,生成目标数据;
6、在对多个上述子任务处理完成的情况下,将与每个上述数据点对应的目标数据与上述数据点进行关联,以生成新的任务处理架构图。
7
8、确定与上述待处理任务集对应的任务处理流程;
9、基于上述任务处理流程对多个上述子任务进行排序,生成任务执行序列;
10、根据上述任务执行序列,确定上述待处理任务集和与多个上述子任务一一对应的数据点之间的映射关系;
11、根据上述映射关系生成上述任务处理架构图。
12、根据本公开的实施例,上述任务处理信息包括标题数据,上述根据每个上述子任务的任务处理信息,确定上述任务处理架构图中与每个上述数据点对应的至少一个任务数据表,包括:
13、根据每个上述子任务中的标题数据,在多个历史任务数据表中,确定上述任务处理架构图中与每个上述数据点对应的至少一个任务数据表。
14、根据本公开的实施例,上述任务处理信息还包括处理数据,上述处理数据中包括多条处理语句,上述基于上述任务处理信息和上述任务数据表中的数据处理信息对上述子任务处理,生成目标数据,包括:
15、针对每条上述处理语句,基于上述处理语句中的处理命令对上述数据处理信息进行处理,生成中间数据;
16、将与每条上述处理语句对应的中间数据进行组合,得到上述目标数据。
17、根据本公开的实施例,上述将与每个上述数据点对应的目标数据与上述数据点进行关联,以生成新的任务处理架构图,包括:
18、针对每个上述数据点,将与上述数据点对应的目标数据与上述数据点进行关联,生成包括上述目标数据的数据框;
19、根据多个与上述数据点对应的数据框,生成上述新的任务处理架构图,以便于在对上述新的任务处理架构图中的数据点进行查看的情况下,对与上述数据点对应的数据框进行可视化展示。
20、根据本公开的实施例,上述方法还包括:
21、针对每个上述子任务,对上述子任务的多条处理语句依次进行性能检测,生成检测数据;
22、在确定上述检测数据表征检测不通过的情况下,将上述检测数据写入与上述子任务对应的数据点的数据框中。
23、根据本公开的实施例,上述方法还包括:
24、对上述数据框中的数据按照预设属性标签进行分类,得到多个分类数据;
25、根据每个上述分类数据的类别,确定与上述类别对应的数据统计规则;
26、针对每个上述分类数据,基于与上述分类数据对应的数据统计规则,对上述分类数据进行处理,得到展示数据;
27、将上述数据框中的数据替换为上述展示数据。
28、本公开的另一方面提供了一种数据处理装置,包括:
29、架构生成模块,用于基于待处理任务集中的多个子任务,生成任务处理架构图,其中,上述任务处理架构图中包括与多个上述子任务一一对应的数据点;
30、数据确定模块,用于根据每个上述子任务的任务处理信息,确定上述任务处理架构图中与每个上述数据点对应的至少一个任务数据表;
31、任务处理模块,用于针对每个上述子任务,基于上述任务处理信息和上述任务数据表中的数据处理信息对上述子任务处理,生成目标数据;
32、数据关联模块,用于在对多个上述子任务处理完成的情况下,将与每个上述数据点对应的目标数据与上述数据点进行关联,以生成新的任务处理架构图。
33、本公开的第三方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得一个或多个处理器执行上述方法。
34、本公开的第四方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述方法。
35、本公开的第五方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述方法。
36、根据本公开提供的数据处理方法、装置、设备、介质和程序产品,通过构建任务处理架构图,将多个目标子任务与其对应的目标数据,以及执行过程中所使用的任务数据集相关联,使得每个数据点对应的目标数据以及子任务的处理过程更加直观,便于开发或维护人员根据新的任务处理架构图对任务执行情况和任务处理结果进行分析和理解,降低了工作人员对数据的维护成本。
本文档来自技高网...【技术保护点】
1.一种数据处理方法,包括:
2.根据权利要求1所述的方法,其中,所述基于待处理任务集中的多个子任务,生成任务处理架构图,包括:
3.根据权利要求1所述的方法,其中,所述任务处理信息包括标题数据,所述根据每个所述子任务的任务处理信息,确定所述任务处理架构图中与每个所述数据点对应的至少一个任务数据表,包括:
4.根据权利要求1所述的方法,其中,所述任务处理信息还包括处理数据,所述处理数据中包括多条处理语句,所述基于所述任务处理信息和所述任务数据表中的数据处理信息对所述子任务处理,生成目标数据,包括:
5.根据权利要求1所述的方法,其中,所述将与每个所述数据点对应的目标数据与所述数据点进行关联,以生成新的任务处理架构图,包括:
6.根据权利要求5所述的方法,还包括:
7.根据权利要求5或6所述的方法,还包括:
8.一种数据处理装置,包括:
9.一种电子设备,包括:
10.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~7中任一项所述
11.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~7中任一项所述的方法。
...【技术特征摘要】
1.一种数据处理方法,包括:
2.根据权利要求1所述的方法,其中,所述基于待处理任务集中的多个子任务,生成任务处理架构图,包括:
3.根据权利要求1所述的方法,其中,所述任务处理信息包括标题数据,所述根据每个所述子任务的任务处理信息,确定所述任务处理架构图中与每个所述数据点对应的至少一个任务数据表,包括:
4.根据权利要求1所述的方法,其中,所述任务处理信息还包括处理数据,所述处理数据中包括多条处理语句,所述基于所述任务处理信息和所述任务数据表中的数据处理信息对所述子任务处理,生成目标数据,包括:
5.根据权利...
【专利技术属性】
技术研发人员:杨高磊,蒋馨剑,
申请(专利权)人:中国工商银行股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。